relay-pulse 是来自 prehisle/relay-pulse 的开源项目,用于企业级 LLM 中转服务可用性监控。它实时追踪服务状态并提供可视化仪表板,适合需要监控多条 LLM 中转线路、排查故障和评估服务稳定性的团队。
开源协议
MIT
星标
1,029
主要特性
- LLM 中转服务可用性监控
- 实时服务状态追踪
- 可视化仪表板
- 适合企业级中转线路巡检
- Go 开源实现
- MIT 许可证
使用场景
- 监控 LLM 中转服务在线状态
- 排查模型网关或中转线路故障
- 比较不同服务节点稳定性
- 为 AI 应用补充可观测性
- 评估 Go 监控系统实现
- 上线前核对运维能力
常见问题 FAQ
relay-pulse 用于监控企业级 LLM 中转服务的可用性,实时追踪服务状态,并通过可视化仪表板帮助团队更快发现中转线路或模型网关异常。
适合依赖 LLM 中转、模型网关或多服务节点的团队,尤其是需要稳定性监控、故障排查和服务可观测性的 AI 应用团队。仓库:https://github.com/prehisle/relay-pulse。