InferenceX

ライセンス

Apache-2.0

スター

1,108

主な機能

• InferenceX の記録された概要: オープンソースの連続推論ベンチマーク Qwen3.5、DeepSeek、GPTOSS - GB200 NVL72 対 MI355X 対 B200 対 GB300 NVL72 対 H100、まもなく™ TPUv6e/v7/Trainium2/3
• InferenceX は、記録された主言語として Python を使用し、スタックフィット レビューに役立ちます。
• InferenceX は、動作の測定、トレース、ベンチマーク、または監視の基準点として機能します。
• InferenceX は Apache-2.0 ライセンス メタデータをリストします。再配布またはホストされた使用の前に義務を確認してください。
• InferenceX のローカル メタデータ スナップショットには、約 893 個の GitHub スターがあります。
• InferenceX は、ホームページ、ドキュメント、またはデモの検証のために https://inferencex.com/ にリンクします。

ユースケース

• 評価と可観測性が必要で、リポジトリの概要が一致する場合、InferenceX を評価します: オープンソース連続推論ベンチマーク Qwen3.5、DeepSeek、GPTOSS - GB200 NVL72 v...
• 同様の内部アーキテクチャを選択する前に、InferenceX の Python 実装を比較してください。
• InferenceX を使用して、運用展開前に評価または監視のアプローチを比較します。
• InferenceX を商用またはホストされたワークフローにパッケージ化する前に、Apache-2.0 ライセンスのレビューを完了してください。
• オープンソースの評価を優先する場合は、InferenceX の GitHub トラクションを 1 つの入力として使用します。
• セットアップ、デモ、またはドキュメントを検証するときは、リポジトリと並んで InferenceX のホームページを確認してください。