LiteRT（google-ai-edge/LiteRT）定位为 Google 端侧推理框架，强调模型转换、运行时效率和边缘设备部署能力。它适合移动端和嵌入式场景下的高性能 ML/GenAI 推理落地。
开源协议
Apache-2.0
星标
2,524
主要特性
- 面向边缘设备的高性能推理运行时
- 承接 TensorFlow Lite 演进路线
- 支持模型转换与部署优化链路
- 适配移动端与嵌入式设备场景
- 强调端侧性能与资源效率平衡
- Apache-2.0 协议便于产品集成
使用场景
- 作为可复用开源组件进行技术评估
- 在生产采用前比较实现成本和取舍
常见问题 FAQ
建议先确认目标芯片与平台约束、模型大小与精度目标，再设计模型转换和运行时优化路径。
通常作为端侧推理运行时层，负责本地模型执行；上层应用和业务逻辑再基于其输出组织交互。
