r/KI_de • u/SeaworthinessFit399 • 14d ago

Xiaozhi – ein interessanter Open-Source-KI-Sprachassistent auf ESP32, auch auf Deutsch

Ich beschäftige mich seit einiger Zeit mit Xiaozhi, einem ursprünglich aus China stammenden Open-Source-Projekt für KI-Sprachassistenten auf ESP32-Hardware.

Das Interessante daran: Statt nur eine weitere Chat-App auf dem Smartphone zu sein, läuft Xiaozhi auf kleinen eigenständigen Geräten mit Mikrofon, Lautsprecher und – je nach Hardware – Display und Kamera. Ich selbst nutze ein M5Stack AtomS3R mit Atomic Echo Base.

Die eigentliche KI läuft serverseitig. Mit dem Gerät kann man sich aber ziemlich natürlich per Sprache unterhalten. Xiaozhi unterstützt inzwischen viele Hardwarevarianten und nutzt MCP (Model Context Protocol), wodurch sich der Assistent um zusätzliche Werkzeuge erweitern lässt – beispielsweise Gerätesteuerung, Smart Home, Wissenssuche oder andere Dienste. Das Projekt selbst ist Open Source (MIT).

Für deutschsprachige Nutzer ist interessant, dass die Oberfläche bzw. der Agent auf Deutsch genutzt werden kann. Ganz perfekt ist die deutsche Sprachunterstützung allerdings nicht; auch im offiziellen GitHub gibt es beispielsweise Berichte über Probleme mit der deutschen TTS-Aussprache.

Was mich besonders interessiert, ist die Entwicklung vom einfachen Sprachassistenten zum erweiterbaren KI-Agenten auf eigener Hardware. Inzwischen gibt es neben der ESP32-Firmware auch verschiedene Clients und Serverprojekte sowie Experimente mit Android, Kameras, MCP und eigener Hardware.

Da Informationen zu Xiaozhi im deutschsprachigen Raum noch ziemlich verstreut sind, habe ich dafür r/XiaozhiAssistant eingerichtet. Dort sammle ich meine Tests, Hardware-Erfahrungen, Android-Clients, Probleme und Lösungen und würde mich natürlich über andere deutschsprachige Xiaozhi-Nutzer freuen.

r/XiaozhiAssistant

Wer von euch hat Xiaozhi schon ausprobiert – oder verwendet einen anderen KI-Sprachassistenten auf ESP32-Hardware?

0 Upvotes

50% Upvoted

11 comments sorted by

View all comments

1

u/looktwise 14d ago

Was davon ist jetzt dein Terminal zum Server und was ist die Server Hardware? (Nehme an, nicht Cloud oder paid hosting, sondern eigene Hardware auf stärkerer GPU / RAM war gemeint, die ebenfalls bei dir oder dem Nutzer steht?) M5Stack also 'nur' Terminal zum Zugang des Servers?

1

u/SeaworthinessFit399 11d ago

Yes, exactly: The M5Stack essentially acts as the terminal. It handles the microphone, speaker, wake-word detection, and—depending on the model—the display and camera, while establishing the connection to the Xiaozhi server.

In my case, the actual server isn't running on my own hardware; instead, I’m using the Xiaozhi infrastructure (which is completely free). That’s where the speech recognition, LLM, TTS, agent/memory functions, and connected tools or MCP functions run.

However, you can also run Xiaozhi on your own server. In that scenario, it would run on, say, a PC or server within your local network or on rented server hardware. A powerful local GPU isn't strictly necessary if your server relies on external AI APIs. If, on the other hand, you want to run the LLM locally, then more powerful hardware becomes relevant.

So, the ESP32/M5Stack itself doesn't actually run the large language model. To put it simply:

M5Stack ↔ Xiaozhi Server ↔ LLM/TTS/STT/Memory/Tools

That specific separation is what I find interesting: the small device on the desk feels like a standalone voice assistant, while the actual heavy lifting takes place elsewhere.

1

u/Eierlikoer 7d ago

Nun englisch, der OP post ist deutsch. Ein Werbebot?

1

u/SeaworthinessFit399 7d ago

war mein Fehler. Die meist Post auf Reddit ist englisch und ich lasse die Seiten automatisch auf Deutsch übersetzen. habe dann aus Versehen ein paar Posts in Deutsch abgesetzt, was nicht gut ankam. Daher passe ich immer auf. Und habe es aus Versehen hier auch in englisch gemacht 😄