Link:prismml.com
PrismML Bonsai: Stark komprimierte 1-Bit- und Ternary-KI-Modelle für Mobilgeräte
PrismML stellt mit der Bonsai-Modellfamilie extrem komprimierte KI-Modelle vor, die auf Forschungsarbeiten am Caltech basieren. Das Flaggschiff Bonsai 27B läuft als 1-Bit-Variante direkt auf Smartphones und benötigt lediglich 3,9 GB Speicherplatz.
Aus Video: Weekly AI Updates: Vulkan, Mojo, Kimi K3, and Emerging Agent Frameworks