HuggingSpot

Vos modèles d'IA dans The Edge. Enregistrez les données, calculez et co2 avec efficacité et confidentialité

Déployer vos modèles d'IA sur un appareil mobile est désormais facile grâce à l'application HuggingSpot. Téléchargez vos modèles d'IA à partir des référentiels HuggingFace et exécutez-les de manière transparente sur votre appareil. Les performances sont automatiquement optimisées en fonction de votre appareil, qu'il s'agisse d'un TPU, d'un GPU ou d'un CPU. Enregistrez les données, les calculs et réduisez votre empreinte carbone. Gagnez en efficacité et en confidentialité au même endroit avec HuggingSpot.

Principales caractéristiques:

* Déployez des modèles HuggingFace AI sur Edge.

* Inférences hors grille. Garantissez la confidentialité à chaque utilisation. Une fois le modèle IA dans votre téléphone, aucune donnée de partage n'est envoyée vers le Cloud

* Configurez les paramètres AI sur le cloud, regardez les résultats sur l'appareil.

* Ajustement local des seuils

* Enregistrez les données, les calculs et réduisez votre empreinte carbone.

* Libérez l'efficacité en tirant le meilleur parti de votre appareil mobile. Chaque appareil a des spécifications matérielles différentes, HuggingSpot trouve la meilleure configuration pour les meilleures performances.

Exigences:

* Les modèles doivent être convertis en TFLite

* Architectures officielles HugginfaceTransformers prises en charge :

* MobileNetV2ForImageClassification

* MobileViTFForSemanticSegmentation

* Architectures non officielles prises en charge :

* SSDForObjectDetection

* Yolov8ForObjectDetection

* Essayez-le avec nos modèles : https://huggingface.co/SpotLab

Fonctionnalités à venir

* Les inférences du modèle IA non seulement sur le flux de la caméra, mais également sur les photos prises ou importées.

* Inférences IA sur images, vidéo, audio, texte, LLM conversationnels.