28 Einträge
Schlagwort: dgx-sparkX-Post:Mia
Laut Mia (@MiaAI_lab) liefert eine generative Bild- und Video-Suite auf einer einzelnen DGX Spark hervorragende Resultate. Die Lösung habe für sie den Einsatz von ChatGPT zur Bildgenerierung vollständig ersetzt. Der Zugriff auf das zugrundeliegende Modell ist derzeit auf Hugging Face beschränkt.
639Lesezeichen19.191Aufrufe
X-Post:Ivan Fioravanti
Ivan Fioravanti beschreibt, wie sich bei einem ohne Monitor (headless) betriebenen DGX Spark zusätzlicher Systemspeicher freigeben lässt. Standardmäßig reserviert das System 2 GB Arbeitsspeicher für die Grafikausgabe, was sich in neueren BIOS-Versionen reduzieren lässt.
272Lesezeichen13.328Aufrufe
Link:James & Milo
Ein detaillierter Baubericht zeigt, wie acht NVIDIA DGX Sparks auf einem handelsüblichen Drahtregal mit MikroTik-400G-Switches zu einem kompakten KI-Cluster verbunden werden.
Aus X-Post: Spark Hardware Ecosystem and Server Infrastructure Discussion
Repository:ashhart/MCDMA
MCDMA ermöglicht Remote Direct Memory Access (RDMA) über heterogene Workstation-Hardware hinweg. Das C-basierte Open-Source-Projekt verbindet Apple-Silicon-Systeme über Thunderbolt mit Linux-Systemen wie NVIDIA DGX Spark und AMD Strix Halo, um verteilte KI-Inferenz zu beschleunigen.
178SterneC
Aus X-Post: MCDMA Enables Bonded Thunderbolt 5 Connections in TensorFold on Apple M5 Ultra
Repository:MiaAI-Lab/DeepSeek-v4-Flash-One-DGX-Spark
Ein Open-Source-Launcher und Docker-Setup, mit dem DeepSeek V4 Flash 0731 (EXL3) auf einer einzelnen NVIDIA DGX Spark mit 128 GiB Unified Memory ausgeführt werden kann.
328SternePython
Aus X-Post: Running DeepSeek v4 Flash on a Single NVIDIA DGX Spark
X-Post:C. Michael Gibbs
C. Michael Gibbs beschreibt eine Kühlungslösung für Nvidia-DGX-Spark-Systeme in einem Rack-Gehäuse. Mit sechs Noctua-Lüftern und gezieltem Luftstrom soll die Lebensdauer und Performance der Hardware gesichert werden.
42Lesezeichen7491Aufrufe
Repository:drowzeys/keys-SM121-Optimized-MiniMax-H3-Nvidia-Sol-Engine-Kijai-SolAttn_Triton-Single-DGX-Spark
Ein optimiertes ComfyUI-Setup für das Audio- und Video-Modell MiniMax-H3 (33B) auf einem einzelnen NVIDIA DGX Spark (GB10, sm_121). Es behebt einen Silent-Compiler-Fehler und beschleunigt das Rendering um das 1,54-Fache.
30SternePython
Aus X-Post: Accelerating MiniMax-H3 on Nvidia DGX Spark with ComfyUI and Sol-Engine
X-Post:Xaden Ryan
Xaden Ryan plant ein Experiment zur Aufteilung von LLM-Workloads: Zwei DGX Sparks sollen den rechenintensiven Prefill-Schritt übernehmen, während ein Apple M3 Ultra mit 512 GB Unified Memory die Token-Generierung durchführt. Ziel ist es, lange Kontext-Prompts für GLM-5.3 zu beschleunigen.
25Lesezeichen8838Aufrufe
X-Post:Mike Gannotti
Ein Testbericht von SMF Clearinghouse zeigt, dass das Modell Qwen3.8-Flash-Next (NVFP4) auf einer einzelnen NVIDIA DGX Spark (GB10) im Benchmark 'smf-bench Official A' 87,3 % erreicht hat. Damit übertrifft die Einzel-Node-Konfiguration das bisherige Dual-Spark-Setup von DeepSeek V4 Vision-Exp bei der Ausgabequalität, insbesondere im Bereich Coding.
17Lesezeichen2254Aufrufe
X-Post:Mia
Mia (@MiaAI_lab) hat ein Performance-Update für das Modell Qwen3.8 Flash Next auf einem einzelnen DGX Spark vorgestellt. Die Aktualisierung steigert die Generierungsrate auf bis zu 108 Tokens pro Sekunde bei mehreren Streams und erweitert den KV-Cache auf 1M.
520Lesezeichen75.709Aufrufe
Artikel:Chris Alexiuk and Chintan Patel
NVIDIA hat Nemotron 3.5 Lightning vorgestellt, ein offenes Mixture-of-Experts-Modell (MoE) mit 30 Milliarden Gesamt- und 3 Milliarden aktiven Parametern. Es wurde speziell für die Ausführungsebene langlebiger KI-Agenten optimiert, um Routineaufgaben wie Tool-Aufrufe und Ergebnisvalidierung schnell und kostengünstig zu bewältigen.
Aus Video: Weekly AI Updates: Model Releases, Agent Harnesses, and Developer Tooling (August 2026)
Link:build.nvidia.com
NVIDIA Sync ist eine Desktop-App, die Rechner über das lokale Netzwerk mit DGX-Spark-Systemen verbindet und manuelle Terminal-Befehle durch eine grafische Oberfläche ersetzt.
Aus X-Post: NVIDIA Sync: Local Network Access and Setup for DGX Spark
Artikel:Inferact
Der Leitfaden erläutert den Betrieb von vLLM auf NVIDIAs Desk-Side-System DGX Spark (GB10). Durch den gemeinsamen 128-GB-Unified-Memory-Pool eignet sich das System besonders für lokale Inferenz mit NVFP4-MoE-Modellen wie Nemotron-3-Super.
Link:NVIDIA Corporation
Die Quelle verweist auf ein NVIDIA-Datenblatt mit dem Titel DGX Spark (GTC 2025 Spring). Der bereitgestellte Textauszug enthält jedoch ausschließlich Steuerelemente eines PDF-Viewers und keine technischen Daten.
Link:NVIDIA
NVIDIA stellt mit dem DGX Spark einen kompakten Desktop-Supercomputer vor, der speziell auf lokale autonome Agenten und generative KI-Workloads ausgelegt ist. Das System basiert auf dem GB10 Grace Blackwell Superchip und bietet 128 GB kohärenten Unified Memory.
Link:NVIDIA
NVIDIA bündelt im DGX Spark Developer Hub Anleitungen und Playbooks zur Entwicklung von AI Agents und Modellen auf dem GB10 Grace Blackwell Superchip. Die Plattform bietet Schnellstarts für Werkzeuge wie Open-WebUI, ComfyUI und vLLM sowie Anleitungen für Multi-GPU- und Multi-Spark-Setups.
Artikel:Elite Test Engineering
Ein Erfahrungsbericht dokumentiert das Aufsetzen des Modells DeepSeek-V4-Flash (284B MoE) über zwei DGX-Spark-Nodes mit Grace-Blackwell-Architektur mittels Ray und vLLM. Neben Hardware-Eigenheiten wie Unified Memory und NCCL-Bugs zeigt der Bericht, wie Multi-Token Prediction die Geschwindigkeit um 45 Prozent steigerte.
Aus Video: Testing DeepSeek V4 Flash on a Clustered DGX Spark and Acer GN100
Repository:eugr/spark-vllm-docker
spark-vllm-docker ist ein Open-Source-Projekt, das Docker-Konfigurationen und Startskripte bereitstellt, um das LLM-Inferenz-Framework vLLM auf NVIDIA DGX Spark-Systemen auszuführen. Es unterstützt Einzelknoten sowie Multi-Node-Cluster über Ray oder vLLMs nativen PyTorch-Distributed-Modus.
2222SterneShell
Repository:tonyd2wild/The-Sparky-Command-Center
The Sparky Command Center ist ein abhängigkeitsfreies Web-Dashboard zur Überwachung von DGX-Spark-Clustern und Linux-GPU-Systemen. Es erfasst Hardware-Telemetrie über SSH und Inferenzmetriken von vLLM oder llama.cpp ohne zusätzliche Datenbanken oder externe Python-Pakete.
40SternePython
Aus X-Post: The Sparky Command Center: Open-Source Dashboard for Local AI Hardware and GPU Fleets
X-Post:Wei
Wei hat ein Dual-DGX-Spark-Setup mit Taktraten zwischen 1400 und 2200 MHz getestet, um die ideale Konfiguration für den Produktivbetrieb zu ermitteln. Die Wahl fiel auf 1800 MHz, da diese Frequenz rund 30 % Strom spart und die Spitzenhitze um 5–7 °C senkt, während der Leistungsverlust minimal bleibt.
163Lesezeichen7787Aufrufe
X-Post:Mia
Ein Leitfaden von NVIDIA demonstriert, wie die Desktop-App NVIDIA Sync die Verbindung zwischen Arbeitsrechnern und DGX-Spark-Systemen über das lokale Netzwerk vereinfacht und manuelle Terminalbefehle überflüssig macht.
160Lesezeichen9048Aufrufe
X-Post:keys
Ein neues Repository demonstriert die Beschleunigung des multimodalen 33B-Modells MiniMax-H3 um den Faktor 1,54 auf einer einzelnen Nvidia DGX Spark (GB10, sm_121) unter ComfyUI. Die Lösung kombiniert Patches für Nvidia Sol-Engine, Triton-Kernel und VAE-Optimierungen.
110Lesezeichen15.641Aufrufe
X-Post:keys 🧪
Der Entwickler keys demonstriert die lokale Ausführung von Videogenerierung auf einem Nvidia DGX Spark mittels ComfyUI und Minimax H3. Durch die Integration von Nvidias Sol Engine konnte die Verarbeitungszeit von 28,2 auf 12,5 Sekunden pro Schritt reduziert werden.
108Lesezeichen6976Aufrufe
VideoVideo:EliteTestEngineering
EliteTestEngineering demonstriert den Betrieb von DeepSeek V4 Flash auf einem Two-Node-Cluster aus einem DGX Spark und einem Acer GN100. Das MoE-Modell erreicht dabei Inferenzgeschwindigkeiten von 10 bis 16,5 Tokens pro Sekunde, stößt jedoch bei wachsendem Kontext schnell an Speichergrenzen.
24 von 28 angezeigt
Haben Sie einen interessanten Artikel, ein Video oder einen Tweet, der in unsere Wissensbasis gehört? Schreiben Sie uns an office@webconsulting.at.
Dieser Inhalt wurde teilweise mithilfe von KI erstellt.
