FunGPT est un projet open source de régulation des émotions d'IA basé sur la série de grands modèles InternLM2.5. Il offre un mode de conversation douce et un mode de conversation pointu, et prend en charge l'interaction en lien complet LLM + ASR + TTS.

FunGPT

Paramètres et statistiques de base

Projet	Détails
Nom du produit	FunGPT
Type de produit	Régulation des émotions IA / Projet Open Source
Formulaire de livraison	Code Open Source + Web auto-déployable
Langues prises en charge	Chinois, Anglais
Modèle de base	StagiaireLM2.5 (1.8B / 7B)
Utilisateurs cibles	Développeurs, apprenants en IA, chercheurs en interactions émotionnelles

Les informations ci-dessus sont basées sur l'entrepôt GitHub et le projet README.

Reconnaissance des utilisateurs et du marché

FunGPT est un projet personnel open source sur GitHub et a reçu 57 étoiles et 10 fourchettes en juillet 2026. Le projet est maintenu par le développeur indépendant Alannikos et a été à l'origine utilisé comme projet d'apprentissage et de pratique pour les modèles de la série InternLM du laboratoire d'intelligence artificielle de Shanghai.

• Reconnaissance de la communauté Open Source : le projet a été inclus dans les sites de ressources chinois sur l'IA tels que AI Toolset Navigation et a reçu des commentaires positifs de la communauté.
• Positionnement de la recherche universitaire : Le projet indique clairement qu'il est uniquement destiné à des fins de recherche universitaire et n'implique pas d'opérations commerciales.
• Contribution écologique du modèle : Un total de 8 modèles affinés de la série BanterBot / BoostBot ont été publiés sur HuggingFace, couvrant les spécifications 7B et 1.8B et les versions quantifiées INT4.

Avantage de coût

Dimension du coût	Descriptif
Open source et gratuit	Open source basé sur la licence MIT, libre d'utilisation, de modification et de distribution
Coût d'auto-déploiement	Besoin de préparer vous-même le serveur GPU (A100 80 Go recommandé ou puissance de calcul équivalente)
Coût du modèle cloud	Accès facultatif à des API externes (telles que le quota gratuit ChatGLM4-Flash) pour réduire les coûts d'inférence locaux

En tant que projet purement open source, FunGPT n'a pas de frais d'abonnement payant ni de licence d'entreprise. Le coût principal concerne les ressources GPU et le temps nécessaire au déploiement local. Le projet fournit un modèle léger de 1,8 B et une version quantifiée AWQ INT4 qui peut fonctionner dans des configurations inférieures.

Fonctions principales

• Mode Sweet Talk (BoostBot) : répondez aux utilisateurs sur un ton chaleureux et complémentaire pour aider à améliorer l'humeur et la confiance en soi. Sur la base du modèle InternLM2.5 affiné avec des instructions, un contenu d'éloge personnalisé est généré.
• Mode Sharp Talk (BanterBot) : Répondez aux utilisateurs sur un ton humoristique et aigu, offrant ainsi un exutoire pour la libération émotionnelle. Prend en charge des manières imaginatives d'attaquer les gens, ce qui est à la fois divertissant et divertissant.
• Prise en charge vocale Full-Link : reconnaissance vocale ASR (SenseVoice) intégrée et synthèse vocale TTS (ChatTTS), prenant en charge l'interaction complète de l'entrée vocale → traitement LLM → sortie vocale.
• Déploiement de quantification de modèle : la mise en œuvre de la quantification AWQ INT4 basée sur l'outil LMDeploy peut réduire l'utilisation de la mémoire du modèle 7B d'environ 60 % et peut également fonctionner sur des GPU grand public.
• Ressources pédagogiques complètes : Génération de données complètes open source, mise au point (LoRA/QLoRA), quantification, code de déploiement et documentation, accompagnées de tutoriels vidéo Bilibili.

Evolution du modèle et de la version

Temps	Jalons
2024-09	Tests initiaux de fonction unique terminés de LLM (InternLM2.5), ASR (SenseVoice) et TTS (ChatTTS)
2024-10	Sortie de la première version affinée de BoostBot v1 et finalisation de l'interface Web Streamlit
2024-11-10	Sortie des modèles de la série 7B (BanterBot-7b-chat / BoostBot-7b-chat)
2024-11-13	Sortie des modèles légers de la série 1.8B
2024-11-14	Quantification AWQ INT4 terminée de 4 modèles basés sur LMDeploy
2024-11-19	Intégrer un module de traitement de texte sensible pour améliorer la sécurité du contenu
2025-05-29	Corrigez les bugs liés au chemin et optimisez l'expérience de déploiement
2025-05-30	Ensemble de données de réglage fin du complément open source ComplimentCorpus

La famille de modèles couvre deux gammes de produits : BanterBot (Talk) et BoostBot (Sweet Talk). Chaque série propose un total de 8 modèles en version standard et en version quantifiée INT4 dans les spécifications 7B et 1.8B. Tous les modèles sont ouverts au téléchargement depuis HuggingFace et OpenXLab.

Avantages techniques

• Sélection de modèle de base : utilisant la série InternLM2.5 comme modèle de base, il dispose d'une fenêtre contextuelle 8K et d'excellentes capacités de compréhension du chinois, et se comporte naturellement dans les scènes d'interaction émotionnelle chinoise.
• Pile technologique de réglage fin : utilisez l'outil Xtuner pour le réglage fin des instructions et le réglage fin à grande échelle (LoRA/QLoRA) pour prendre en charge la personnalisation du modèle sur les cartes graphiques grand public. Le modèle léger 1,8B abaisse encore le seuil matériel.
• Optimisation du déploiement de la quantification : implémentez la quantification INT4 AWQ (Adaptive Weight Quantization) basée sur LMDeploy, qui réduit considérablement l'utilisation de la mémoire vidéo et la latence d'inférence tout en maintenant les performances du modèle.
• Architecture Full Link : architecture en trois étapes LLM (dialogue central) + ASR (reconnaissance vocale) + TTS (synthèse vocale), chaque module peut être remplacé et mis à niveau indépendamment. Le mécanisme de chargement/déchargement du modèle optimise l’utilisation de la mémoire GPU.
• Interface Web Streamlit : une page interactive est construite sur la base de Streamlit, prend en charge la commutation bimode entre les mots doux et les mots pointus et est livrée avec un composant d'enregistrement pour la saisie vocale.

Comment utiliser

FunGPT est un projet open source et doit être déployé par vous-même. Voici le processus de démarrage rapide :

Exigences localisées

• Système d'exploitation : Ubuntu 20.04+ (recommandé)
• GPU : NVIDIA A100 80 Go / puissance de calcul équivalente (la version quantifiée peut réduire les besoins) -Python 3.10

Étapes de déploiement

# 1. Cloner le référentiel
clone git https://github.com/Alannikos/FunGPT
cdFunGPT

# 2. Créer un contexte Conda
conda create -n FunGPT python==3.10.0
conda active FunGPT
pip install -r exigences.txt

# 3. Téléchargez le modèle (obligatoire pour LLM, facultatif pour ASR/TTS)
# Exemple de modèle LLM (version 1.8B) :
installer git lfs
clone git https://huggingface.co/Alannikos768/BanterBot_1_8b-chat LLM/weights/
clone git https://huggingface.co/Alannikos768/BoostBot_1_8b-chat LLM/weights/

# 4. Démarrez le service Web
exécution simplifiée app.py --server.address=127.0.0.1 --server.port=7860

Expérience en ligne

Le projet propose une démo en ligne de HuggingFace Spaces : https://huggingface.co/spaces/Alannikos768/BoostBot-1_8B-chat-Demo

Prix des produits

FunGPT est un projet entièrement open source (licence MIT) sans aucun frais d'abonnement ni de licence.

• Coût du logiciel : 0 $ (gratuit pour l'open source)
• Coût matériel : apportez votre propre serveur GPU, la version quantitative 1,8 B peut fonctionner sur des cartes graphiques grand public et la version 7B recommande le niveau A100.
• Coût API facultatif : le quota gratuit de ChatGLM4-Flash peut être utilisé pour la génération de données sans dépenses supplémentaires.

Remarque : Le projet indique clairement qu'il est destiné uniquement à des fins de recherche universitaire et que son utilisation commerciale est interdite. Si du code tiers est impliqué, leurs licences open source respectives doivent être respectées.

Scénarios d'application

• AI/LLM Learning Practice : couvre entièrement l'ensemble du processus de génération de données → réglage fin → quantification → déploiement. Il s'agit d'un projet de référence idéal pour le développement de grands modèles d'entrée de gamme. La documentation de support et les didacticiels vidéo abaissent le seuil pour démarrer.
• Recherche sur les interactions émotionnelles : fournit une base expérimentale reproductible pour la recherche sur l'informatique émotionnelle et les capacités de régulation des émotions de l'IA conversationnelle.
• Divertissement et réduction du stress : le mode conversation douce convient à l'ajustement de l'humeur quotidienne, et le mode conversation pointue peut être utilisé comme un outil d'interaction sociale amusant.
• Prototype d'interaction vocale : l'architecture à trois étages ASR + LLM + TTS peut être utilisée comme implémentation de référence du système de dialogue vocal.

Personnes concernées

• Développeur IA/apprenant LLM : personnel technique souhaitant mettre en pratique l'ensemble du processus de réglage fin, de quantification et de déploiement de grands modèles à travers des projets complets.
• Chercheurs universitaires : les chercheurs engagés dans l'informatique affective, l'interaction homme-machine et les systèmes de dialogue peuvent utiliser FunGPT comme système de base.
• Passionnés de l'Open Source : personnes intéressées par l'interaction émotionnelle de l'IA et disposées à explorer et à contribuer à des projets open source.

Ne convient pas à la foule :

• Utilisateurs ayant besoin de produits SaaS prêts à l'emploi (FunGPT nécessite un auto-déploiement, seuil non nul)
• Les équipes poursuivant des applications commerciales sérieuses (les projets sont réservés à un usage académique et n'ont aucun support commercial)
• Scénarios qui nécessitent une qualité extrêmement élevée du contenu généré (le modèle présente des limites en termes de caractère aléatoire et de précision de quantification)

Résumé et Outlook

FunGPT est un projet open source de régulation des émotions par l'IA avec des fonctions complètes et une documentation détaillée. Il utilise InternLM2.5 comme base et réalise deux modes d'interaction intéressants de mots doux et de remarques pointues grâce au réglage fin LoRA/QLoRA. La plus grande valeur du projet est qu'il offre aux apprenants LLM un parcours pratique complet depuis la préparation des données jusqu'au déploiement quantitatif du modèle.

Les projets futurs incluent la prise en charge de la synthèse vocale GPT-SoVITS, l'accès aux API de grands modèles, l'amélioration des directives de génération de données et l'amélioration des modules de filtrage de mots sensibles.

Évaluation des risques d'approvisionnement/d'adoption : FunGPT se positionne comme un projet de recherche universitaire et d'apprentissage personnel. La licence MIT permet une utilisation gratuite, mais le projet n'a pas d'équipe de support commercial, aucune garantie SLA et aucun rythme de sortie de version stable. Les déploiements liés à la production sont responsables du coût et de la maintenance du GPU. Il est recommandé que ce projet soit utilisé comme un outil d'apprentissage et de prototypage plutôt que comme une dépendance commerciale critique.

Outils associés : ÉquipageAI, langchain

Conception d'architecture et sélection de technologies

En tant que projet open source, la conception de l'architecture de FunGPT, la santé de la communauté ainsi que la maturité de l'exploitation et de la maintenance sont des dimensions essentielles qui doivent être prises en compte de manière globale lors de la sélection de la technologie. Ce qui suit est un cadre systématique pour évaluer l’état de préparation à la production des projets open source.

Architecture et conception modulaire La conception architecturale du projet détermine directement la flexibilité du développement secondaire et de l'intégration. Les projets qui adoptent des microservices, des plug-ins ou une architecture basée sur les événements ont généralement une meilleure évolutivité et une meilleure isolation fonctionnelle, ce qui permet à l'équipe d'étendre et de personnaliser plus facilement des modules spécifiques à la demande ; l'architecture monolithique est simple à déployer, intuitive à exploiter et à entretenir, et convient à une utilisation à petite échelle et à une vérification rapide. Cependant, à mesure que les fonctions augmentent, elles peuvent être confrontées à des problèmes tels qu'une complexité de maintenance accrue et une accumulation de dette technique. Il est recommandé de lire les documents d'architecture du projet et les guides de développement avant de sélectionner et d'évaluer l'adaptabilité de la conception de l'architecture à la pile technologique existante de l'équipe, ainsi que l'évolutivité de l'architecture à mesure que l'entreprise se développe à l'avenir.

Santé communautaire et entretien à long terme La santé de la communauté d'un projet open source est un indicateur clé pour savoir si le projet peut être maintenu et développé sur le long terme. Il est recommandé d'évaluer de manière exhaustive les dimensions suivantes : la tendance de croissance et la valeur absolue des étoiles GitHub (reflétant l'attention de la communauté et la base d'utilisateurs), le nombre et la composition des contributeurs (le ratio mainteneurs principaux/contributeurs temporaires, idéalement il y a au moins 3 mainteneurs principaux actifs), le temps de réponse médian aux problèmes (idéalement dans les 24 heures, reflétant l'efficacité de réponse de l'équipe de maintenance), le taux de fusion des relations publiques et le délai de fusion (reflétant la standardisation et l'efficacité de la gouvernance du projet), et le temps de la dernière version majeure (plus de 6 mois sans mises à jour doivent être considérés comme un signe que la maintenance du projet est bloquée). Une communauté active signifie des corrections de bugs plus rapides, des mises à jour de fonctionnalités plus fréquentes, un écosystème d'intégration tiers plus riche et il est plus facile d'obtenir de l'aide de la communauté lorsque vous rencontrez des problèmes.

Déploiement, exploitation, maintenance et préparation à la production Le déploiement de l'environnement de production doit se concentrer sur l'évaluation des aspects suivants : l'exhaustivité de la stratégie d'étiquetage des images et des versions Docker (si la mise en miroir multi-architecture est fournie), la disponibilité et la qualité des documents des scripts de déploiement en un clic (docker-compose, Helm Chart, Terraform, etc.), le nombre et la complexité de gestion des composants dépendants de l'exécution (plus il y a de dépendances, la complexité d'exploitation et de maintenance augmente de façon exponentielle), la prise en charge de l'intégration de l'infrastructure de surveillance et de journalisation (exposition aux indicateurs Prometheus, tableau de bord Grafana, sortie de journal structurée) et une documentation complète des solutions de sauvegarde, de restauration et de haute disponibilité. Il est fortement recommandé de suivre l'ensemble du processus de déploiement dans l'environnement de test, de suivre strictement la documentation à partir de zéro, de vérifier l'exactitude de chaque étape et la compatibilité de l'environnement, et de la mettre en production une fois que toutes les fonctions ont été vérifiées.

Informations de version

• Version officielle ：Basé sur le modèle de la série InternLM2.5, il propose deux modes de régulation émotionnelle : mots doux et mots pointus, et prend en charge le lien complet LLM + ASR + TTS. （~2024-11）
• version initiale ：Effectuez les tests et l'évaluation initiaux des fonctions uniques LLM, ASR et TTS, basés sur le modèle InternLM2.5_1.8b. （~2024-10）