ArtikelJakub Mroz, Henry NdubuakuAnkündigung
Für Edge-Computing, Sprachassistenten und Embedded-Systeme ist der Speicher- und Rechenaufwand herkömmlicher Speech-to-Text-Modelle oft zu hoch. Whistle zeigt, dass praxistaugliche Spracherkennung und Funktionsaufrufe mit minimalem Footprint lokal auf handelsüblichen CPUs ohne Cloud-Verbindung möglich sind.
Cactus Compute kombiniert den Encoder und Decoder architektonisch eng mit ihrem Needle-Modell, wodurch identische C++-Routinen wiederverwendet werden. Die Benchmarks gegen Whisper base und Moonshine tiny v2 zeigen erhebliche Geschwindigkeitsvorteile und geringere Wortfehlerraten in mehreren Testsets, wenngleich Whisper base auf manchen Datensätzen wie TED-LIUM vorne bleibt. Bemerkenswert ist die Bereitstellung für 17 Plattformen (inklusive RISC-V und watchOS) sowie die Möglichkeit, Sprache direkt in strukturierte Tool-Calls zu mappen.
Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 9. Oktober 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.
Inhaltlich ähnlich, ermittelt über die KI-Suche.
X-Post:Mario Zechner
Mario Zechner teilt das Sprachmodell Whistle von Cactus. Das quelloffene Speech-to-Text-Modell benötigt lediglich 16,9 MB Speicher, läuft ohne externe Abhängigkeiten auf der CPU und unterstützt sieben Sprachen.
592Lesezeichen24.272Aufrufe
Repository:google-ai-edge/LiteRT-LM
LiteRT-LM ist ein Open-Source-Framework von Google zur plattformübergreifenden Ausführung großer Sprachmodelle direkt auf Edge-Geräten. Die Software nutzt Hardwarebeschleunigung über GPU und NPU und treibt On-Device-KI-Funktionen in Chrome, Pixel Watch und Chromebook Plus an.
6375SterneC++
Repository:m-bain/whisperX
WhisperX erweitert OpenAIs Whisper-Spracherkennung um VAD-gestütztes Batching, Wort-Zeitstempel via wav2vec2 und Sprechertrennung mit pyannote-audio. Es richtet sich an Entwickler, die Audioaufnahmen hochpräzise und bis zu 70-mal schneller als Echtzeit verarbeiten wollen.
24.996SternePython
Repository:huggingface/speech-to-speech
Hugging Face stellt mit speech-to-speech ein modulares Open-Source-Framework bereit, mit dem sich Sprachassistenten auf Basis von Open-Source-Modellen umsetzen lassen. Die Pipeline deckt VAD, STT, LLM und TTS ab und stellt eine Schnittstelle bereit, die zum OpenAI Realtime Event Set über WebSocket und WebRTC kompatibel ist.
13.025SternePython
Artikel:Liquid AI
Liquid AI hat das Open-Weight-Modell LFM2.5-2.6B vorgestellt. Mit 2,6 Milliarden Parametern wurde es speziell für Agenten-Workflows optimiert und läuft vollständig lokal auf Smartphones, CPUs oder Rechenzentrums-GPUs.
Repository:jamiepine/voicebox
Voicebox ist ein lokales Open-Source-Sprachstudio, das Sprachsynthese, Voice-Cloning und Diktierfunktionen kombiniert. Die Desktop-Anwendung versteht sich als quelloffene Alternative zu proprietären Cloud-Diensten wie ElevenLabs und WisprFlow.
55.625SterneTypeScript
Ein Teil von diesem Inhalt wurde mit KI gemacht.
