Retour aux outils
litellm
Developpement et assistance au code

litellm est un référentiel de flux de travail d'ingénierie pour les développeurs chez BerriAI/litellm ; Les métadonnées GitHub le résument ainsi : Python SDK, Proxy Server (AI Gateway) pour appeler plus de 100 API LLM au format OpenAI (ou natif), avec suivi des coûts, garde-corps, équilibrage de charge et journalisation. [Bedrock, Azure, OpenAI, VertexAI, Cohere, Anthropic, Sagemaker, HuggingFace, VLLM, NVIDIA NIM]. Son langage principal enregistré est Python. Les métadonnées de licence répertorient Autre. Les métadonnées GitHub affichent environ 46 890 étoiles. La page d'accueil du projet est https://docs.litellm.ai/docs/.

Licence

Other

Étoiles

51 800

Fonctionnalités

  • Description du responsable pour litellm : SDK Python, serveur proxy (AI Gateway) pour appeler plus de 100 API LLM au format OpenAI (ou natif), avec suivi des coûts, garde-corps, équilibrage de charge et journalisation. [Bedrock, Azure, OpenAI, VertexAI, Cohere, Anthropic, Sagemaker, HuggingFace, VLLM, NVIDIA NIM]
  • litellm utilise Python comme langage principal enregistré, ce qui facilite l'examen de l'ajustement de la pile.
  • litellm convient aux équipes d'ingénierie qui évaluent les workflows de code, CLI, SDK, runtime ou outils de développement.
  • litellm répertorie les autres métadonnées de licence ; examiner les obligations avant la redistribution ou l’utilisation hébergée.
  • litellm contient environ 46 890 étoiles GitHub dans l'instantané de métadonnées locales.
  • litellm renvoie à https://docs.litellm.ai/docs/ pour la validation de la page d'accueil, des documents ou de la démo.

Cas d'usage

  • Utilisez litellm lorsque les flux de travail d'ingénierie des développeurs sont nécessaires et que le résumé du dépôt correspond : Python SDK, Proxy Server (AI Gateway) pour appeler plus de 100 API LLM au format OpenAI (ou natif)...
  • Comparez l'implémentation Python dans litellm avant de choisir une architecture interne similaire.
  • Utilisez Litelm pour étudier les détails de mise en œuvre des outils de développement avant de créer des flux de travail internes.
  • Effectuez un examen d'une autre licence avant d'intégrer Litellm dans un flux de travail commercial ou hébergé.
  • Utilisez la traction GitHub de Litellm comme entrée lors de la priorisation de l'évaluation open source.
  • Vérifiez la page d'accueil de litellm à côté du référentiel lors de la validation de l'installation, des démos ou de la documentation.

FAQ

litellm est un référentiel de flux de travail d'ingénierie pour les développeurs chez BerriAI/litellm ; Les métadonnées GitHub le résument ainsi : Python SDK, Proxy Server (AI Gateway) pour appeler plus de 100 API LLM au format OpenAI (ou natif), avec suivi des coûts, garde-corps, équilibrage de charge et journalisation. [Bedrock, Azure, OpenAI, VertexAI, Cohere, Anthropic, Sagemaker, HuggingFace, VLLM, NVIDIA NIM]. Son langage principal enregistré est Python. Les métadonnées de licence répertorient Autre. Les métadonnées GitHub affichent environ 46 890 étoiles. La page d'accueil du projet est https://docs.litellm.ai/docs/.

Cas d'usage courants : Utilisez litellm lorsque les flux de travail d'ingénierie des développeurs sont nécessaires et que le résumé du dépôt correspond : Python SDK, Proxy Server (AI Gateway) pour appeler plus de 100 API LLM au format OpenAI (ou natif)..., Comparez l'implémentation Python dans litellm avant de choisir une architecture interne similaire., Utilisez Litelm pour étudier les détails de mise en œuvre des outils de développement avant de créer des flux de travail internes..

Outils associés