3 Einträge
Schlagwort: exllamav3Repository:MiaAI-Lab/DeepSeek-v4-Flash-One-DGX-Spark
Ein Open-Source-Launcher und Docker-Setup, mit dem DeepSeek V4 Flash 0731 (EXL3) auf einer einzelnen NVIDIA DGX Spark mit 128 GiB Unified Memory ausgeführt werden kann.
328SternePython
Aus X-Post: Running DeepSeek v4 Flash on a Single NVIDIA DGX Spark
Link:hkinsley.com
Neue Auswertungen auf Terminal-Bench v2.1 zeigen, dass die Wahl des Agent-Harnesses die Modellleistung drastisch verändert: DeepSeek-V4-Flash 0731 springt unter dem OMP-Harness von 49,4 % auf 71,9 % und schließt damit nahezu zur quantisierten Spitzenvariante von GLM 5.2 (73,0 %) auf.
Aus Video: Weekly AI Updates: Model Releases, Agent Harnesses, and Developer Tooling (August 2026)
X-Post:Mia
MiaAI-Lab hat ein Open-Source-Setup veröffentlicht, um DeepSeek V4 Flash 0731 (EXL3) auf einer einzelnen NVIDIA DGX Spark ohne Multi-Node-Cluster auszuführen.
71Lesezeichen9777Aufrufe
3 von 3 angezeigt
Haben Sie einen interessanten Artikel, ein Video oder einen Tweet, der in unsere Wissensbasis gehört? Schreiben Sie uns an office@webconsulting.at.
Dieser Inhalt wurde teilweise mithilfe von KI erstellt.
