xllm (jd-opensource/xllm) est un projet d'IA open source sur GitHub. Résumé du référentiel : un moteur d'inférence hautes performances pour les modèles LLM, VLM, DiT et REC, optimisé pour divers accélérateurs d'IA. Son objectif comprend le traitement de la parole et de l'audio, la génération augmentée par récupération et l'automatisation des flux de travail. Il convient à l’extension, à l’intégration et à la livraison itérative dans des flux de travail réels.
Licence
Apache-2.0
Étoiles
1 318
Site officiel
https://xllm-ai.com/Fonctionnalités
- Core : un moteur d'inférence hautes performances pour les modèles LLM, VLM, DiT et REC, optimisé pour divers accélérateurs d'IA.
- Prend en charge la reconnaissance vocale, la synthèse ou le traitement audio
- Prend en charge la récupération vectorielle et le raisonnement augmenté par la récupération
- Prend en charge les flux d'automatisation et la planification orchestrés
- Dépôt : jd-opensource/xllm
- Langage principal : C++
Cas d'usage
- Utilisé pour la transcription des réunions, les assistants vocaux et la production audio
- Construit des systèmes de questions-réponses et de récupération de documents sur les connaissances d'entreprise
- Utilisé pour l'automatisation des processus inter-systèmes et l'efficacité des opérations
- Créer des prototypes de workflow d'IA interne avec XLLM
- Valider XML dans des scénarios d'ingénierie de type production
- Traduire et organiser le contenu d'apprentissage
FAQ
xllm (jd-opensource/xllm) est un projet d'IA open source sur GitHub. Résumé du référentiel : un moteur d'inférence hautes performances pour les modèles LLM, VLM, DiT et REC, optimisé pour divers accélérateurs d'IA. Son objectif comprend le traitement de la parole et de l'audio, la génération augmentée par récupération et l'automatisation des flux de travail. Il convient à l’extension, à l’intégration et à la livraison itérative dans des flux de travail réels.
Cas d'usage courants : Utilisé pour la transcription des réunions, les assistants vocaux et la production audio, Construit des systèmes de questions-réponses et de récupération de documents sur les connaissances d'entreprise, Utilisé pour l'automatisation des processus inter-systèmes et l'efficacité des opérations.
