LinkTool
Die Ausführung großer 27B-Parameter-Modelle war bisher auf Rechenzentren oder leistungsfähige Workstations beschränkt. Extrem niedrige Quantisierungen (1-Bit, Ternary) ermöglichen fortschrittliche Agenten und multimodale Logik direkt und datenschutzfreundlich auf Endgeräten wie iPhones oder Laptops.
PrismML adressiert die Skalierungsgrenzen moderner Rechenzentren und Mobilgeräte durch extreme Quantisierung. Während herkömmliche Modelle typischerweise 16-Bit-Gewichte nutzen, reduziert Bonsai den Speicherbedarf drastisch auf 3,9 GB bis 5,9 GB. Gelingt es, die Qualität bei 1-Bit- und ternären Gewichten stabil zu halten, eröffnen sich neue Einsatzfelder für On-Device-Assistenten ohne Cloud-Abhängigkeit.
Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 27. September 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.
Inhaltlich ähnlich, ermittelt über die KI-Suche.
X-Post:Hamid Maei
PrismML hat Ternary Bonsai 2 27B vorgestellt, eine stark komprimierte Version von Qwen3.8 27B. Das Modell ist neunmal kleiner als das Original, belegt nur 5,9 GB Speicher und erreicht laut Anbieter 98,2 Prozent der Benchmark-Leistung.
97Lesezeichen20.996Aufrufe
X-Post:Udi Wertheimer
Udi Wertheimer hebt die Ankündigung von PrismMLs Ternary Bonsai 2 27B hervor. Das Modell basiert auf Qwen3.8 27B, benötigt lediglich 5,9 GB Speicher und soll laut Hersteller 98,2 % der Benchmark-Leistung des Vollpräzisionsmodells erreichen.
1468Lesezeichen260.139Aufrufe
Artikel:trendforce.com
Das Caltech-Spinout PrismML hat Alibabas Open-Source-Modell Qwen 3.6 von etwa 54 GB auf unter 4 GB komprimiert, um es direkt auf dem iPhone 17 Pro auszuführen. Laut Medienberichten prüft Apple die Technologie, um mehr On-Device-KI-Funktionen ohne Cloud-Anbindung anzubieten.
Artikel:Liquid AI
Liquid AI hat das Open-Weight-Modell LFM2.5-2.6B vorgestellt. Mit 2,6 Milliarden Parametern wurde es speziell für Agenten-Workflows optimiert und läuft vollständig lokal auf Smartphones, CPUs oder Rechenzentrums-GPUs.
Link:inclusionAI
inclusionAI hat Ling-3.0-tiny veröffentlicht, ein leichtgewichtiges MoE-Modell mit 7,9 Milliarden Gesamtparametern, das pro Token nur 1,3 Milliarden Parameter aktiviert. Das Modell setzt auf eine hybride Architektur aus linearen Aufmerksamkeits- und Latent-Attention-Schichten und zielt auf recheneffizientes Reasoning sowie Agenten-Aufgaben auf lokaler Hardware ab.
Artikel:Joe Rossignol
Laut einem Bericht von The Information hat Apple Gespräche mit dem Startup PrismML geführt. Ziel ist es, deutlich größere KI-Modelle direkt lokal auf iPhones auszuführen. PrismML gelang es, Alibabas Open-Source-Modell Qwen 3.6 mit 27 Milliarden Parametern vollständig auf einem iPhone 17 Pro lauffähig zu machen.
Dieser Inhalt wurde teilweise mithilfe von KI erstellt.
