FunGPT ist ein Open-Source-Projekt zur KI-Emotionsregulierung, das auf der InternLM2.5-Serie großer Modelle basiert. Es bietet einen Sweet-Talk-Modus und einen Sharp-Talk-Modus und unterstützt die LLM + ASR + TTS-Vollverbindungsinteraktion.

FunGPT

Kernparameter und Statistiken

Projekt	Einzelheiten
Produktname	FunGPT
Produkttyp	KI-Emotionsregulation / Open-Source-Projekt
Lieferform	Open-Source-Code + selbstentfaltendes Web
Unterstützte Sprachen	Chinesisch, Englisch
Grundmodell	InternLM2.5 (1.8B / 7B)
Zielbenutzer	Entwickler, KI-Lernende, Forscher für emotionale Interaktion

Die oben genannten Informationen basieren auf der GitHub-Warehouse- und Projekt-README-Datei.

Benutzer- und Markterkennung

FunGPT ist ein persönliches Open-Source-Projekt auf GitHub und hat seit Juli 2026 57 Sterne und 10 Forks erhalten. Das Projekt wird vom unabhängigen Entwickler Alannikos gepflegt und wurde ursprünglich als Lern- und Übungsprojekt für die Modelle der InternLM-Serie des Shanghai Artificial Intelligence Laboratory verwendet.

• Anerkennung der Open-Source-Community: Das Projekt wurde in chinesische KI-Ressourcenseiten wie AI Toolset Navigation aufgenommen und erhielt positives Feedback von der Community.
• Positionierung in der akademischen Forschung: Im Projekt wird klar dargelegt, dass es nur akademischen Forschungszwecken dient und keine kommerziellen Aktivitäten beinhaltet.
• Modellökologischer Beitrag: Auf HuggingFace wurden insgesamt 8 fein abgestimmte Modelle der BanterBot-/BoostBot-Serie veröffentlicht, die die Spezifikationen 7B und 1.8B sowie quantisierte INT4-Versionen abdecken.

Kostenvorteil

Kostendimension	Beschreibung
Open Source und kostenlos	Open Source basierend auf der MIT-Lizenz, frei zu verwenden, zu ändern und zu verbreiten
Selbstbereitstellungskosten	Sie müssen den GPU-Server selbst vorbereiten (empfohlen A100 80 GB oder gleichwertige Rechenleistung)
Kosten des Cloud-Modells	Optionaler Zugriff auf externe APIs (z. B. das kostenlose ChatGLM4-Flash-Kontingent) zur Reduzierung lokaler Inferenzkosten

Als reines Open-Source-Projekt fallen für FunGPT keine kostenpflichtigen Abonnements- oder Unternehmenslizenzgebühren an. Die Hauptkosten sind die GPU-Ressourcen und der Zeitaufwand, die für die lokale Bereitstellung erforderlich sind. Das Projekt bietet ein 1,8-B-Lightweight-Modell und eine quantisierte AWQ INT4-Version, die bei niedrigeren Konfigurationen ausgeführt werden kann.

Hauptfunktionen

• Sweet Talk-Modus (BoostBot): Reagieren Sie den Benutzern in einem warmen und höflichen Ton, um die Stimmung und das Selbstvertrauen zu verbessern. Basierend auf dem mit Anweisungen verfeinerten InternLM2.5-Modell werden personalisierte Lobinhalte generiert.
• Sharp Talk-Modus (BanterBot): Reagieren Sie auf Benutzer in einem humorvollen und scharfen Ton und bieten Sie so die Möglichkeit, sich emotional zu entfalten. Unterstützt fantasievolle Arten, Menschen anzugreifen, was sowohl unterhaltsam als auch unterhaltsam ist.
• Full-Link-Sprachunterstützung: Integrierte ASR-Spracherkennung (SenseVoice) und TTS-Sprachsynthese (ChatTTS), die die vollständige Interaktion von Spracheingabe → LLM-Verarbeitung → Sprachausgabe unterstützt.
• Bereitstellung der Modellquantisierung: Die Implementierung der AWQ INT4-Quantisierung auf Basis des LMDeploy-Tools kann die Speichernutzung des 7B-Modells um etwa 60 % reduzieren und kann auch auf GPUs der Verbraucherklasse ausgeführt werden.
• Umfassende Lehrressourcen: Vollständige Open-Source-Datengenerierung, Feinabstimmung (LoRA/QLoRA), Quantifizierung, Bereitstellungscode und Dokumentation, begleitet von Bilibili-Video-Tutorials.

Modell- und Versionsentwicklung

Zeit	Meilensteine ​​
2024-09	Erste Einzelfunktionstests von LLM (InternLM2.5), ASR (SenseVoice) und TTS (ChatTTS) abgeschlossen
2024-10	Veröffentlichung der ersten fein abgestimmten Version von BoostBot v1 und Vervollständigung der Streamlit-Weboberfläche
10.11.2024	Veröffentlichung von Modellen der 7B-Serie (BanterBot-7b-chat / BoostBot-7b-chat)
13.11.2024	Veröffentlichung der Leichtbaumodelle der 1.8B-Serie
14.11.2024	AWQ INT4-Quantifizierung von 4 Modellen basierend auf LMDeploy	abgeschlossen
19.11.2024	Integrieren Sie ein sensibles Textverarbeitungsmodul, um die Inhaltssicherheit zu erhöhen
29.05.2025	Beheben Sie pfadbezogene Fehler und optimieren Sie das Bereitstellungserlebnis
30.05.2025	Open-Source-Komplement zur Feinabstimmung des Datensatzes ComplimentCorpus

Die Modellfamilie umfasst zwei Produktlinien: BanterBot (Talk) und BoostBot (Sweet Talk). Jede Serie bietet insgesamt 8 Modelle in der Standardversion und in der INT4-quantisierten Version in den Spezifikationen 7B und 1,8B. Alle Modelle können von HuggingFace und OpenXLab heruntergeladen werden.

Technische Vorteile

• Grundlegende Modellauswahl: Mit der InternLM2.5-Serie als Basismodell verfügt es über ein 8K-Kontextfenster und hervorragende Chinesisch-Verständnisfähigkeiten und verhält sich in chinesischen emotionalen Interaktionsszenen natürlich.
• Feinabstimmung des Technologie-Stacks: Verwenden Sie das Xtuner-Tool zur Feinabstimmung der Anweisungen und zur vollständigen Feinabstimmung (LoRA/QLoRA), um die Modellanpassung auf Grafikkarten der Verbraucherklasse zu unterstützen. Das 1,8-B-Leichtbaumodell senkt die Hardware-Schwelle noch weiter.
• Optimierung der Quantifizierungsbereitstellung: Implementieren Sie die INT4-Quantisierung AWQ (Adaptive Weight Quantization) basierend auf LMDeploy, was die Videospeichernutzung und die Inferenzlatenz erheblich reduziert und gleichzeitig die Modellleistung beibehält.
• Full-Link-Architektur: LLM (Kerndialog) + ASR (Spracherkennung) + TTS (Sprachsynthese) dreistufige Architektur, jedes Modul kann unabhängig ersetzt und aktualisiert werden. Der Mechanismus zum Laden/Entladen des Modells optimiert die GPU-Speichernutzung.
• Streamlit-Weboberfläche: Eine interaktive Seite basiert auf Streamlit, unterstützt den Dual-Mode-Wechsel zwischen süßen und scharfen Wörtern und verfügt über eine Aufzeichnungskomponente für die Spracheingabe.

Wie man es benutzt

FunGPT ist ein Open-Source-Projekt und muss selbst bereitgestellt werden. Das Folgende ist der Schnellstartvorgang:

Gelegene Anforderungen

• Betriebssystem: Ubuntu 20.04+ (empfohlen)
• GPU: NVIDIA A100 80 GB / entsprechende Rechenleistung (quantisierte Version kann Anforderungen reduzieren) -Python 3.10

Bereitstellungsschritte

„Bash

1. Klonen Sie das Repository

Git-Klon https://github.com/Alannikos/FunGPT cd FunGPT

2. Conda-Kontext erstellen

conda create -n FunGPT python==3.10.0 Conda aktiviert FunGPT pip install -r Anforderungen.txt

3. Laden Sie das Modell herunter (erforderlich für LLM, optional für ASR/TTS)

LLM-Modellbeispiel (Version 1.8B):

git lfs installieren Git-Klon https://huggingface.co/Alannikos768/BanterBot_1_8b-chat LLM/weights/ Git-Klon https://huggingface.co/Alannikos768/BoostBot_1_8b-chat LLM/weights/

4. Starten Sie den Webdienst

Streamlit führen Sie app.py --server.address=127.0.0.1 --server.port=7860 aus „

Online-Erlebnis

Das Projekt bietet eine Online-Demo von HuggingFace Spaces: https://huggingface.co/spaces/Alannikos768/BoostBot-1_8B-chat-Demo

Produktpreise

FunGPT ist ein vollständig Open-Source-Projekt (MIT-Lizenz) ohne Abonnement- oder Lizenzgebühren.

• Softwarekosten: 0 $ (kostenlos für Open Source)
• Hardwarekosten: Bringen Sie Ihren eigenen GPU-Server mit, die 1,8B-Quantitätsversion kann auf Verbrauchergrafikkarten ausgeführt werden und die 7B-Version empfiehlt die Stufe A100
• Optionale API-Kosten: Das kostenlose ChatGLM4-Flash-Kontingent kann ohne zusätzlichen Aufwand für die Datengenerierung verwendet werden.

Hinweis: Im Projekt wird ausdrücklich darauf hingewiesen, dass es ausschließlich akademischen Forschungszwecken dient und eine kommerzielle Nutzung untersagt ist. Wenn Code von Drittanbietern involviert ist, müssen deren jeweilige Open-Source-Lizenzen eingehalten werden.

Anwendungsszenarien

• KI/LLM-Lernpraxis: Deckt den gesamten Prozess der Datengenerierung → Feinabstimmung → Quantifizierung → Bereitstellung vollständig ab. Es ist ein ideales Referenzprojekt für die Entwicklung großer Einsteigermodelle. Unterstützende Dokumentationen und Video-Tutorials erleichtern den Einstieg.
• Emotionale Interaktionsforschung: Bietet eine reproduzierbare experimentelle Grundlage für die Forschung zu emotionalem Computing und den Emotionsregulationsfähigkeiten der Konversations-KI.
• Unterhaltung und Stressabbau: Der Sweet-Talk-Modus eignet sich zur täglichen Stimmungsanpassung und der Sharp-Talk-Modus kann als unterhaltsames Tool für die soziale Interaktion verwendet werden.
• Prototyp für Sprachinteraktion: Die dreistufige Architektur ASR + LLM + TTS kann als Referenzimplementierung des Sprachdialogsystems verwendet werden.

Anwendbare Personen

• KI-Entwickler/LLM-Lernender: Technisches Personal, das den gesamten Prozess der Feinabstimmung, Quantifizierung und Bereitstellung großer Modelle in kompletten Projekten üben möchte.
• Akademische Forscher: Forscher, die sich mit Affective Computing, Mensch-Computer-Interaktion und Dialogsystemen befassen, können FunGPT als Basissystem verwenden.
• Open-Source-Enthusiasten: Personen, die sich für emotionale KI-Interaktion interessieren und bereit sind, Open-Source-Projekte zu erforschen und dazu beizutragen.

Nicht für die Masse geeignet: – Benutzer, die sofort einsatzbereite SaaS-Produkte benötigen (FunGPT erfordert Selbstbereitstellung, Schwellenwert ungleich Null)

• Teams, die ernsthafte kommerzielle Anwendungen verfolgen (Projekte dienen nur der akademischen Nutzung und werden nicht kommerziell unterstützt)
• Szenarien, die eine extrem hohe Qualität der generierten Inhalte erfordern (das Modell weist Einschränkungen hinsichtlich Zufälligkeit und Quantifizierungsgenauigkeit auf)

Zusammenfassung und Ausblick

FunGPT ist ein Open-Source-Projekt zur KI-Emotionsregulierung mit vollständigen Funktionen und detaillierter Dokumentation. Es verwendet InternLM2.5 als Basis und realisiert durch LoRA/QLoRA-Feinabstimmung zwei interessante Interaktionsmodi mit süßen Worten und scharfen Bemerkungen. Der größte Wert des Projekts besteht darin, dass es LLM-Lernenden einen vollständigen praktischen Weg von der Datenaufbereitung bis zur quantitativen Modellbereitstellung bietet.

Zu den zukünftigen Plänen gehören die Unterstützung der GPT-SoVITS-Sprachsynthese, der API-Zugriff auf große Modelle, die Verbesserung der Richtlinien zur Datengenerierung und die Verbesserung von Modulen zur Filterung sensibler Wörter.

Beschaffungs-/Einführungsrisikobewertung: FunGPT ist als akademisches Forschungs- und persönliches Lernprojekt positioniert. Die MIT-Lizenz erlaubt die kostenlose Nutzung, aber das Projekt verfügt über kein kommerzielles Support-Team, keine SLA-Garantie und keinen stabilen Versions-Release-Rhythmus. Produktionsgebundene Bereitstellungen sind für GPU-Kosten und -Wartung verantwortlich. Es wird empfohlen, dieses Projekt als Lern- und Prototyping-Tool und nicht als kritische Geschäftsabhängigkeit zu verwenden.

Verwandte Tools: CrewAI, langchain

Architekturdesign und Technologieauswahl

Als Open-Source-Projekt sind das Architekturdesign, die Community-Gesundheit sowie die Betriebs- und Wartungsreife von FunGPT Kerndimensionen, die bei der Auswahl der Technologie umfassend berücksichtigt werden müssen. Im Folgenden finden Sie einen systematischen Rahmen zur Bewertung der Produktionsreife von Open-Source-Projekten.

Architektur und modulares Design Die architektonische Gestaltung des Projekts bestimmt direkt die Flexibilität der sekundären Entwicklung und Integration. Projekte, die Microservices, Plug-Ins oder ereignisgesteuerte Architekturen nutzen, verfügen in der Regel über eine bessere Skalierbarkeit und funktionale Isolation, wodurch es für das Team einfacher wird, bestimmte Module bei Bedarf zu erweitern und anzupassen; Die monolithische Architektur ist einfach bereitzustellen, intuitiv zu bedienen und zu warten und eignet sich für den Einsatz in kleinem Maßstab und eine schnelle Überprüfung. Mit zunehmenden Funktionen können jedoch Probleme wie eine erhöhte Wartungskomplexität und die Anhäufung technischer Schulden auftreten. Es wird empfohlen, vor der Auswahl die Architekturdokumente und Entwicklerhandbücher des Projekts zu lesen und die Anpassungsfähigkeit des Architekturdesigns an den vorhandenen Technologie-Stack des Teams sowie die Skalierbarkeit der Architektur bei zukünftigem Geschäftswachstum zu bewerten.

Gemeinschaftsgesundheit und langfristige Erhaltung Der Community-Zustand eines Open-Source-Projekts ist ein wichtiger Indikator dafür, ob das Projekt langfristig gepflegt und weiterentwickelt werden kann. Es wird empfohlen, die folgenden Dimensionen umfassend zu bewerten: den Wachstumstrend und den absoluten Wert von GitHub Stars (die die Aufmerksamkeit der Community und die Benutzerbasis widerspiegeln), die Anzahl und Zusammensetzung der Mitwirkenden (das Verhältnis von Kernbetreuern zu temporären Mitwirkenden, idealerweise gibt es mindestens 3 aktive Kernbetreuer), die mittlere Problemreaktionszeit (idealerweise innerhalb von 24 Stunden, was die Reaktionseffizienz des Wartungsteams widerspiegelt), PR-Mergerate und Merge-Verzögerung (was die Standardisierung und Effizienz der Projektverwaltung widerspiegelt) und die Zeit des neuesten Majors Release (mehr als 6 Monate ohne Updates sollten als Zeichen dafür gewertet werden, dass die Projektwartung ins Stocken geraten ist). Eine aktive Community bedeutet schnellere Fehlerbehebungen, häufigere Funktionsaktualisierungen, ein umfassenderes Integrationsökosystem von Drittanbietern und es ist einfacher, Hilfe von der Community zu erhalten, wenn Sie auf Probleme stoßen.

Bereitstellung, Betrieb und Wartung sowie Produktionsbereitschaft Die Bereitstellung der Produktionsumgebung muss sich auf die Bewertung der folgenden Aspekte konzentrieren: die Vollständigkeit der Docker-Image- und Versionskennzeichnungsstrategie (ob Multi-Architektur-Spiegelung bereitgestellt wird), die Verfügbarkeit und Dokumentqualität von Ein-Klick-Bereitstellungsskripten (Docker-Compose, Helm Chart, Terraform usw.), die Anzahl und Verwaltungskomplexität laufzeitabhängiger Komponenten (je mehr Abhängigkeiten, desto komplexer nimmt Betrieb und Wartung exponentiell zu), die Integrationsunterstützung der Überwachungs- und Protokollierungsinfrastruktur (Prometheus-Indikator-Belichtung, Grafana). Dashboard, strukturierte Protokollausgabe) und vollständige Dokumentation von Backup-, Wiederherstellungs- und Hochverfügbarkeitslösungen. Es wird dringend empfohlen, den gesamten Bereitstellungsprozess in der Testumgebung zu durchlaufen, die Dokumentation von Grund auf strikt zu befolgen, die Genauigkeit jedes Schritts und die Kompatibilität der Umgebung zu überprüfen und ihn nach Überprüfung aller Funktionen in die Produktion zu überführen.

Versionsinfo

• Offizielle Release-Version ：Basierend auf dem Modell der InternLM2.5-Serie bietet es zwei emotionale Regulierungsmodi: süße Worte und scharfe Worte und unterstützt die vollständige Verbindung von LLM + ASR + TTS. （~2024-11）
• Erstversion ：Schließen Sie die ersten Tests und Bewertungen der einzelnen LLM-, ASR- und TTS-Funktionen basierend auf dem InternLM2.5_1.8b-Modell ab. （~2024-10）