CosyVoice: Mehrsprachige Open-Source-Sprachsynthese und Voice-Cloning

RepositoryQwenAudio/CosyVoiceTool

CosyVoice ist ein quelloffenes TTS-System auf Basis großer Sprachmodelle für mehrsprachige Sprachsynthese und Zero-Shot-Stimmklonen. Es bietet geringe Latenzen für Streaming und unterstützt präzise Aussprachekontrolle für den Produktiveinsatz.

Das Wichtigste

  1. Fun-CosyVoice 3.0 unterstützt 9 Sprachen (darunter Deutsch, Englisch und Chinesisch) sowie über 18 chinesische Dialekte.
  2. Ermöglicht Zero-Shot Voice Cloning über Sprachgrenzen hinweg (Cross-Lingual).
  3. Erreicht durch bidirektionales Streaming (Text-in und Audio-out) Latenzzeiten ab 150 ms.
  4. Bietet Aussprache-Inpainting via CMU-Phoneme und Pinyin sowie Textnormalisierung ohne klassisches Frontend.
  5. Verfügt über Apache-2.0-Lizenz und Integrationen für vLLM sowie NVIDIA Triton TRT-LLM.

Warum das relevant ist

Für Entwickler von Voice-Bots, interaktiven KI-Agenten und Medienanwendungen bietet CosyVoice eine produktionsreife, latenzarme Sprachsynthese unter freier Lizenz ohne Cloud-Lock-in.

Einordnung

CosyVoice von QwenAudio ist ein Open-Source-Framework für moderne Sprachsynthese (Text-to-Speech). Das Projekt nutzt große Sprachmodelle (LLMs), um realistische Sprachausgabe und Stimmklonen zu realisieren. Mit der Version Fun-CosyVoice 3.0 (0.5B Parameter) adressiert das System zentrale Hürden konventioneller TTS-Pipelines.

Funktionsweise und Architektur

Die Architektur verzichtet auf traditionelle Frontend-Module zur Textnormalisierung und kann Zahlen, Sonderzeichen und Textformate direkt verarbeiten. Gleichzeitig erlaubt das Modell eine feingranulare Steuerung: Über sogenannte Instruct-Befehle lassen sich Emotionen, Sprechtempo, Lautstärke und Dialekte dynamisch anpassen. Für Fehlerausprachen bietet CosyVoice ein Inpainting auf Basis von Pinyin und englischen CMU-Phonemen.

Streaming und Performance

Ein entscheidendes Kriterium für Chatbots und Agenten ist die Latenz. CosyVoice unterstützt Bi-Streaming (kontinuierliche Texteingabe bei gleichzeitigem Audio-Streaming) und erreicht Latenzen ab 150 ms. Durch Optimierungen für moderne Inferenz-Engines wie vLLM und NVIDIA Triton TRT-LLM sowie Trainingsunterstützung für Reinforcement Learning (GRPO) ist das Modell auf hohe Durchsätze in Produktionsumgebungen ausgelegt.

Reifegrad und Einsatzbereich

Mit über 24.000 Sternen auf GitHub, Evaluation-Benchmarks und offener Apache-2.0-Lizenz zeigt CosyVoice einen hohen Reifegrad. Es eignet sich ideal für Entwickler, die DSGVO-konforme, selbst gehostete Sprachassistenten und Echtzeit-Dialogsysteme aufbauen möchten.

Gefunden in

Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 1. November 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.

Inhaltlich ähnlich, ermittelt über die KI-Suche.

  • Repository:huggingface/speech-to-speech

    Hugging Face Speech to Speech: Modulare Open-Source-Pipeline für Sprachassistenten

    Hugging Face stellt mit speech-to-speech ein modulares Open-Source-Framework bereit, mit dem sich Sprachassistenten auf Basis von Open-Source-Modellen umsetzen lassen. Die Pipeline deckt VAD, STT, LLM und TTS ab und stellt eine Schnittstelle bereit, die zum OpenAI Realtime Event Set über WebSocket und WebRTC kompatibel ist.

    13.025SternePython

    KI & AI· Tool

  • Repository:jamiepine/voicebox

    Voicebox: Open-Source-Studio für lokale Sprachgenerierung und Diktat

    Voicebox ist ein lokales Open-Source-Sprachstudio, das Sprachsynthese, Voice-Cloning und Diktierfunktionen kombiniert. Die Desktop-Anwendung versteht sich als quelloffene Alternative zu proprietären Cloud-Diensten wie ElevenLabs und WisprFlow.

    55.625SterneTypeScript

    KI & AI· Tool

  • X-Post:MIKE

    Lokale Open-Source-Alternative zu ElevenLabs für Voice Cloning und TTS

    Ein X-Post beschreibt ein quelloffenes Tool eines einzelnen Entwicklers, das Text-to-Speech und Voice Cloning vollständig lokal ausführt. Das Repository erreichte laut Autor 19.400 GitHub-Sterne und positioniert sich als kostenlose Alternative zu kommerziellen Cloud-Diensten wie ElevenLabs.

    21.093Lesezeichen1,1 Mio.Aufrufe

    KI & AI· Tool

  • Repository:m-bain/whisperX

    WhisperX: Schnelle Spracherkennung mit Wort-Zeitstempeln und Diarisierung

    WhisperX erweitert OpenAIs Whisper-Spracherkennung um VAD-gestütztes Batching, Wort-Zeitstempel via wav2vec2 und Sprechertrennung mit pyannote-audio. Es richtet sich an Entwickler, die Audioaufnahmen hochpräzise und bis zu 70-mal schneller als Echtzeit verarbeiten wollen.

    24.996SternePython

    KI & AI· Tool

  • Repository:ollama/ollama

    Ollama: Lokale Ausführung und Integration offener Sprachmodelle

    Ollama ist ein Open-Source-Framework in Go, mit dem Open-Weight-Modelle lokal ausgeführt, über APIs angesprochen und an Entwicklungswerkzeuge sowie Chat-Assistenten angebunden werden können.

    180.203SterneGo

    KI & AI· Tool

  • Repository:calesthio/OpenMontage

    OpenMontage: Agentenbasiertes Open-Source-System für die Videoproduktion

    OpenMontage ist ein quelloffenes Produktionssystem, das KI-Coding-Assistenten wie Cursor oder Claude in Video-Studios verwandelt. Mit 12 Pipelines, über 100 Tools und mehr als 700 Wissens- und Skill-Dateien steuert das Python-basierte Framework die Erstellung von Videos über Text-to-Speech-, Bild- und Videomodelle sowie Rendering-Engines.

    56.204SternePython

    KI & AI· Tool

Sprechen wir über Ihr Projekt.

Standorte

  • Mattersburg
    Johann Nepomuk Bergerstraße 7/2/14
    7210 Mattersburg, Austria
  • Wien
    Ungargasse 64-66/3/404
    1030 Wien, Austria

Ein Teil von diesem Inhalt wurde mit KI gemacht.