HuggingSpot

Mô hình AI của bạn trong The Edge. Lưu dữ liệu, điện toán & co2 một cách hiệu quả và riêng tư

Việc triển khai các mô hình AI của bạn vào thiết bị di động giờ đây thật dễ dàng nhờ ứng dụng HuggingSpot. Tải xuống các mô hình AI của bạn từ kho lưu trữ HuggingFace và chạy chúng một cách liền mạch trên thiết bị của bạn. Hiệu suất được tự động tối ưu hóa tùy thuộc vào thiết bị của bạn, cho dù đó là TPU, GPU hay CPU. Lưu dữ liệu, tính toán và giảm lượng khí thải carbon của bạn. Đạt được hiệu quả và quyền riêng tư ở cùng một nơi với HuggingSpot.

Các tính năng chính:

* Triển khai mô hình AI HuggingFace trên Edge.

* Suy luận ngoài lưới. Đảm bảo sự riêng tư trong mỗi lần sử dụng. Khi mô hình AI có trong điện thoại của bạn, sẽ không có dữ liệu chia sẻ nào được gửi lên Đám mây

* Cấu hình thông số AI trên cloud, xem kết quả trên thiết bị.

* Điều chỉnh ngưỡng cục bộ

* Lưu dữ liệu, tính toán và giảm lượng khí thải carbon của bạn.

* Giải phóng hiệu quả khi chúng tôi tận dụng tối đa thiết bị di động của bạn. Mỗi thiết bị có thông số phần cứng khác nhau, HuggingSpot tìm ra cấu hình tốt nhất để có hiệu suất tốt nhất.

Yêu cầu:

* Các mô hình phải được chuyển đổi sang TFLite

* Các kiến ​​trúc HugginfaceTransformers chính thức được hỗ trợ:

* Phân loại MobileNetV2ForImage

* Phân đoạn ngữ nghĩa MobileViTFor

* Các kiến ​​trúc không chính thức được hỗ trợ:

* SSDForObjectDetection

* Yolov8ForObjectDetection

* Hãy dùng thử với các mô hình của chúng tôi: https://huggingface.co/SpotLab

Các tính năng sắp ra mắt

* Mô hình AI suy luận không chỉ qua nguồn cấp dữ liệu máy ảnh mà còn qua các ảnh được chụp hoặc nhập.

* AI suy luận về hình ảnh, video, âm thanh, văn bản, LLM đàm thoại.