Whistle: Lokales Speech-to-Text-Modell mit nur 16,9 MB

X-PostMario ZechnerTool

Mario Zechner teilt das Sprachmodell Whistle von Cactus. Das quelloffene Speech-to-Text-Modell benötigt lediglich 16,9 MB Speicher, läuft ohne externe Abhängigkeiten auf der CPU und unterstützt sieben Sprachen.

Das Wichtigste

  1. Whistle ist ein kompaktes Speech-to-Text-Modell mit 16,9 MB Dateigröße für Mobilgeräte, Wearables, Robotik und Mikrocontroller.
  2. Unterstützt Audioclips bis zu 30 Sekunden in Deutsch, Englisch, Französisch, Spanisch, Italienisch, Niederländisch und Polnisch inklusive Zeitstempeln und Spracherkennung.
  3. Arbeitet auf derselben C++-Engine wie das Needle-3-Basismodell und ermöglicht direkte Tool Calls aus Sprachaufnahmen ohne externe Cloud-Abhängigkeit.
  4. Erreicht auf einem Apple M4 Pro den ersten Token in 11,1 Millisekunden bei 1.319 Token pro Sekunde im Decode.
  5. Erste Erfahrungsberichte aus der Community zeigen teils Schwächen bei Akzenten, die sich durch manuelle Sprachauswahl verbessern lassen.

Warum das relevant ist

Für Edge-AI und lokale Sprachsteuerung war die Modellgröße bisher oft ein Hindernis. Ein 16,9-MB-Modell mit niedriger Latenz und minimalem CPU-Bedarf erlaubt Offline-Sprachbedienung direkt auf Endgeräten ohne Datenübertragung an Cloud-Dienste.

Einordnung

Cactus positioniert Whistle als leichtgewichtige Alternative zu Whisper base (145,3 MB) und Moonshine tiny v2 (41,9 MB). Bemerkenswert ist die Integration mit der C++-Engine von Needle: Audioaufnahmen können in derselben Binärdatei direkt transkribiert und an Tool-Aufrufe übergeben werden. Die Reaktionen zeigen jedoch, dass die automatische Spracherkennung bei regionalen Akzenten noch anfällig ist.

Original-Post

Mario Zechner

@badlogicgames · 8. Oktober 2026

amazing t.co/CU8Y5jIRcT

526 Likes29 Antworten592 Lesezeichen24.272 Aufrufe

Auf X ansehen
Ausgewählte Antworten (5)
  • @calebfahlgren @badlogicgames t.co/eNGaVTwSaY
  • @sridca @badlogicgames not amazed, because it sucks at non-Western English accents
  • @LetMeKeyboard @badlogicgames I was testing its recognition of my non-ideal accent, and then just countries in general, and this is what i got for "wtf is Montenegro". Amazing indeed. t.co/cylCAl66Fr
  • @gkurttech @badlogicgames At first I thought it was bad. But then I selected English explicitly and it got very good. Maybe the language detection is not good.
  • @i_m_re @badlogicgames I just tried some Dutch on my phone and it was blazingly fast and 100% accurate. Also for very short sentences. Amazing work

Erwähnte Links

Links und Tools aus diesem Beitrag

Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 9. Oktober 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.

Ähnliche Einträge

Inhaltlich ähnlich, ermittelt über die KI-Suche.

  • Artikel:Jakub Mroz, Henry Ndubuaku

    Whistle: Open-Source-Spracherkennung mit 16,9 MB Modellgröße

    Cactus Compute stellt mit Whistle ein leichtgewichtiges Speech-to-Text-Modell vor. Die Datei ist nur 16,9 MB groß, läuft dependency-frei auf der CPU und teilt sich die C++-Engine mit dem hauseigenen Modell Needle, was direkte Tool-Aufrufe aus Audiosignalen ermöglicht.

    KI & AI· Ankündigung

  • Repository:google-ai-edge/LiteRT-LM

    LiteRT-LM: Googles Open-Source-Inferenz-Framework für On-Device-LLMs

    LiteRT-LM ist ein Open-Source-Framework von Google zur plattformübergreifenden Ausführung großer Sprachmodelle direkt auf Edge-Geräten. Die Software nutzt Hardwarebeschleunigung über GPU und NPU und treibt On-Device-KI-Funktionen in Chrome, Pixel Watch und Chromebook Plus an.

    6375SterneC++

    KI & AI· Tool

  • Repository:huggingface/speech-to-speech

    Hugging Face Speech to Speech: Modulare Open-Source-Pipeline für Sprachassistenten

    Hugging Face stellt mit speech-to-speech ein modulares Open-Source-Framework bereit, mit dem sich Sprachassistenten auf Basis von Open-Source-Modellen umsetzen lassen. Die Pipeline deckt VAD, STT, LLM und TTS ab und stellt eine Schnittstelle bereit, die zum OpenAI Realtime Event Set über WebSocket und WebRTC kompatibel ist.

    13.025SternePython

    KI & AI· Tool

  • Repository:m-bain/whisperX

    WhisperX: Schnelle Spracherkennung mit Wort-Zeitstempeln und Diarisierung

    WhisperX erweitert OpenAIs Whisper-Spracherkennung um VAD-gestütztes Batching, Wort-Zeitstempel via wav2vec2 und Sprechertrennung mit pyannote-audio. Es richtet sich an Entwickler, die Audioaufnahmen hochpräzise und bis zu 70-mal schneller als Echtzeit verarbeiten wollen.

    24.996SternePython

    KI & AI· Tool

  • Repository:jamiepine/voicebox

    Voicebox: Open-Source-Studio für lokale Sprachgenerierung und Diktat

    Voicebox ist ein lokales Open-Source-Sprachstudio, das Sprachsynthese, Voice-Cloning und Diktierfunktionen kombiniert. Die Desktop-Anwendung versteht sich als quelloffene Alternative zu proprietären Cloud-Diensten wie ElevenLabs und WisprFlow.

    55.625SterneTypeScript

    KI & AI· Tool

Zurück zur Wissensbasis

Sprechen wir über Ihr Projekt.

Kontakt

Standorte

  • Mattersburg
    Johann Nepomuk Bergerstraße 7/2/14
    7210 Mattersburg, Austria
  • Wien
    Ungargasse 64-66/3/404
    1030 Wien, Austria

Ein Teil von diesem Inhalt wurde mit KI gemacht.