LiteRT (google-ai-edge/LiteRT) は、ML/GenAI ワークロードのモデル変換、ランタイム効率、エッジ デプロイメントに重点を置いた Google のオンデバイス推論フレームワークです。
ライセンス
Apache-2.0
スター
2,524
主な機能
- エッジ推論用の高性能ランタイム
- TensorFlow Lite からの後継パス
- モデル変換と展開の最適化をサポート
- モバイルおよび組み込みデバイスのシナリオに適合
- オンデバイスのパフォーマンスとリソースの制約のバランスをとる
- 製品統合用の Apache-2.0 ライセンス
ユースケース
- 開発者エンジニアリング ワークフローが必要で、リポジトリの概要が Google のオンデバイス ML/GenAI ランタイム フレームワークおよび TensorFlow Lite の後継に一致する場合は、LiteRT を使用します。
- 内部ビルドにコミットする前に、LiteRT の実装アプローチを比較してください。
- 内部ワークフローを構築する前に、LiteRT を使用して開発者ツールの実装の詳細を検討します。
- LiteRT を商用またはホストされたワークフローにパッケージ化する前に、Apache-2.0 ライセンスのレビューを完了してください。
- オープンソースの評価を優先する場合は、LiteRT の GitHub トラクションを 1 つの入力として使用します。
- セットアップ、デモ、またはドキュメントを検証するときは、リポジトリと並んで LiteRT のホームページを確認してください。
FAQ
LiteRT (google-ai-edge/LiteRT) は、ML/GenAI ワークロードのモデル変換、ランタイム効率、エッジ デプロイメントに重点を置いた Google のオンデバイス推論フレームワークです。
主な利用シーン: 開発者エンジニアリング ワークフローが必要で、リポジトリの概要が Google のオンデバイス ML/GenAI ランタイム フレームワークおよび TensorFlow Lite の後継に一致する場合は、LiteRT を使用します。、内部ビルドにコミットする前に、LiteRT の実装アプローチを比較してください。、内部ワークフローを構築する前に、LiteRT を使用して開発者ツールの実装の詳細を検討します。。