litellm

ライセンス

Other

スター

51,800

主な機能

• litellm のメンテナの説明: コスト追跡、ガードレール、ロードバランシング、ロギングを備えた 100 以上の LLM API を OpenAI (またはネイティブ) 形式で呼び出すための Python SDK、プロキシ サーバー (AI ゲートウェイ)。 [Bedrock、Azure、OpenAI、VertexAI、Cohere、Anthropic、Sagemaker、HuggingFace、VLLM、NVIDIA NIM]
• litellm は、記録された主言語として Python を使用し、スタックフィットのレビューに役立ちます。
• litellm は、コード、CLI、SDK、ランタイム、または開発者ツールのワークフローを評価するエンジニアリング チームに適しています。
• litellm はその他のライセンス メタデータをリストします。再配布またはホストされた使用の前に義務を確認してください。
• litellm のローカル メタデータ スナップショットには、約 46,890 個の GitHub スターがあります。
• litellm は、ホームページ、ドキュメント、またはデモの検証用に https://docs.litellm.ai/docs/ にリンクします。

ユースケース

• 開発者エンジニアリング ワークフローが必要で、リポジトリの概要が以下に一致する場合は、litellm を使用します。Python SDK、プロキシ サーバー (AI ゲートウェイ) で OpenAI (またはネイティブ) 形式で 100 以上の LLM API を呼び出します...
• 同様の内部アーキテクチャを選択する前に、litellm の Python 実装を比較してください。
• 内部ワークフローを構築する前に、litellm を使用して開発者ツールの実装の詳細を検討します。
• litellm を商用またはホストされたワークフローにパッケージ化する前に、その他のライセンスのレビューを完了してください。
• オープンソースの評価を優先する場合は、litellm の GitHub トラクションを 1 つの入力として使用します。
• セットアップ、デモ、またはドキュメントを検証するときは、リポジトリと並んで litellm のホームページを確認してください。