LiteRT (google-ai-edge/LiteRT) est le cadre d'inférence sur appareil de Google axé sur la conversion de modèles, l'efficacité d'exécution et le déploiement en périphérie pour les charges de travail ML/GenAI.
Licence
Apache-2.0
Étoiles
2 524
Site officiel
https://ai.google.dev/edge/litert/next/overviewFonctionnalités
- Exécution hautes performances pour l'inférence de périphérie
- Chemin du successeur de TensorFlow Lite
- Prend en charge la conversion de modèle et l'optimisation du déploiement
- Convient aux scénarios d'appareils mobiles et intégrés
- Équilibre les performances de l'appareil et les contraintes de ressources
- Apache-2.0 pour l'intégration de produits
Cas d'usage
- Utilisez LiteRT lorsque les flux de travail d'ingénierie des développeurs sont nécessaires et que le résumé du dépôt correspond : le cadre d'exécution ML/GenAI sur appareil de Google et successeur de TensorFlow Lite.
- Comparez l'approche de mise en œuvre de LiteRT avant de vous engager dans une version interne.
- Utilisez LiteRT pour étudier les détails de mise en œuvre des outils de développement avant de créer des flux de travail internes.
- Effectuez une révision de la licence Apache-2.0 avant d'intégrer LiteRT dans un flux de travail commercial ou hébergé.
- Utilisez la traction GitHub de LiteRT comme entrée lors de la priorisation de l'évaluation open source.
- Vérifiez la page d'accueil de LiteRT à côté du référentiel lors de la validation de la configuration, des démos ou de la documentation.
FAQ
LiteRT (google-ai-edge/LiteRT) est le cadre d'inférence sur appareil de Google axé sur la conversion de modèles, l'efficacité d'exécution et le déploiement en périphérie pour les charges de travail ML/GenAI.
Cas d'usage courants : Utilisez LiteRT lorsque les flux de travail d'ingénierie des développeurs sont nécessaires et que le résumé du dépôt correspond : le cadre d'exécution ML/GenAI sur appareil de Google et successeur de TensorFlow Lite., Comparez l'approche de mise en œuvre de LiteRT avant de vous engager dans une version interne., Utilisez LiteRT pour étudier les détails de mise en œuvre des outils de développement avant de créer des flux de travail internes..
