HuggingSpot

Ваши модели искусственного интеллекта в The Edge. Экономьте данные, выполняйте вычисления и выбросы CO2 с эффективностью и конфиденциальностью

Развертывание ваших моделей искусственного интеллекта на мобильном устройстве теперь стало проще благодаря приложению HuggingSpot. Загрузите свои модели искусственного интеллекта из репозиториев HuggingFace и легко запускайте их на своем устройстве. Производительность автоматически оптимизируется в зависимости от вашего устройства, будь то TPU, GPU или CPU. Сохраняйте данные, вычисления и сокращайте выбросы углекислого газа. Получите эффективность и конфиденциальность в одном месте с HuggingSpot.

Ключевая особенность:

* Развертывание моделей HuggingFace AI на Edge.

* Выводы вне сетки. Обеспечьте конфиденциальность при каждом использовании. Как только модель искусственного интеллекта окажется в вашем телефоне, данные общего доступа не будут отправлены в облако.

* Конфигурируйте параметры AI в облаке, наблюдайте за результатами на устройстве.

* Локальная регулировка порогов

* Сохраняйте данные, вычисления и сокращайте выбросы углекислого газа.

* Раскройте эффективность, выжимая максимум из вашего мобильного устройства. Каждое устройство имеет разные аппаратные характеристики, HuggingSpot находит лучшую конфигурацию для максимальной производительности.

Требования:

* Модели должны быть конвертированы в TFLite.

* Поддерживаемые официальные архитектуры HugginfaceTransformers:

* MobileNetV2ForImageClassification

* MobileViTForSemanticSegmentation

* Поддерживаемые неофициальные архитектуры:

* SSDForObjectDetection

* Yolov8ForObjectDetection

* Попробуйте это с нашими моделями: https://huggingface.co/SpotLab

Скоро появятся функции

* Выводы модели AI не только по данным камеры, но и по сделанным или импортированным снимкам.

* Выводы ИИ по изображениям, видео, аудио, тексту, диалоговым LLM.