The Sparky Command Center: Open-Source-Dashboard für KI-Hardware und GPU-Cluster

X-PostTech2WildTool

Tech2Wild stellt The Sparky Command Center v2 vor, ein webbasiertes Monitoring-Dashboard für lokale KI-Infrastruktur. Es überwacht GPU-Knoten, Netzwerk-Switches und Inferenz-Server ohne zusätzliche Abhängigkeiten auf Serverseite und bietet eine 3D-Flottenübersicht sowie einen angebundenen Chat-Assistenten.

Das Wichtigste

  1. Agentenloses Monitoring: Fragt GPU-Knoten über SSH via nvidia-smi ab, ohne Software auf den Zielsystemen zu installieren.
  2. Netzwerk- und Model-Server-Tracking: Unterstützt MikroTik RouterOS Switches sowie Prometheus-Metriken von vLLM, SGLang und llama.cpp (u. a. TTFT, Tokens/s, KV-Cache-Auslastung).
  3. ComfyUI-Überwachung: Liest Auslastung und VRAM direkt über den GPU-Treiber statt über Schätzwerte der Anwendung aus.
  4. Integrierter Chat-Assistent: Verbindet sich mit OpenAI-kompatiblen Endpunkten (z. B. Ollama, LM Studio) und nutzt Live-Telemetriedaten des Dashboards als Kontext.
  5. Schlanke Architektur: Backend benötigt lediglich die Python 3.9+ Standardbibliothek ohne pip-Installationen; UI basiert auf React, Three.js und Vite.

Warum das relevant ist

Für Betreiber eigener KI-Labore und Inferenz-Cluster entfällt durch das Tool der Aufwand, komplexe Überwachungsinfrastrukturen mit Prometheus-Exportern auf jedem Node aufzusetzen. Die standardmäßige Verankerung von Echtzeit-Systemdaten im Prompt des integrierten Sprachmodells vereinfacht zudem das Troubleshooting via natürlicher Sprache.

Einordnung

Das Projekt setzt auf minimale Reibung: Da für das Python-Backend keine Drittanbieter-Bibliotheken nötig sind und das React-Frontend vorkompiliert ausgeliefert wird, genügt ein Klon des Repositories zum Start. Durch die Unterstützung nativer Inferenz-Metriken adressiert es gezielt spezifische Engpässe von LLM- und Bildgenerierungs-Workflows, die herkömmliche Server-Monitoring-Tools nicht abbilden.

Original-Post

Tech2Wild

@Tech2Wild · 17. Oktober 2026

I built a command center for my whole home AI lab 🖥️⚡ 📊 Every Spark + the 3090 box: temps, watts, memory, live throughput 🌌 3D constellation of the fleet 🤖 Jarvis chat that reads the live board Open source, just python3 t.co/sGJrsEGbFp 👇 t.co/4CNrWbA0fJ t.co/AptN8qpLA7

25 Likes5 Antworten16 Lesezeichen1568 Aufrufe

Auf X ansehen
Weitere Posts im Thread (1)
  1. @RyanJ_KOL Yes, it also marks when a fleet is offline due to that
Ausgewählte Antworten (5)
  • @RyanJ_KOL @Tech2Wild The chat reading the live board is a useful touch. Does it include each node’s last telemetry timestamp and mark disconnected machines clearly? That would keep an old temperature or throughput sample from being presented as the current state.
  • @GunFister @Tech2Wild 🔥🔥🔥
  • @Franzferdinan57 @Tech2Wild starred and forked
  • @AgentSparko @Tech2Wild Nice!
  • @peterislion @Tech2Wild RAIDFLASH-PD t.co/33lsAZS3cz new engine using all concurrencies for maximun prefill and decode!! FOR SINGLE USER!!! use it for better performance on tensorfold and exl3 on GLM5.3 flash!!!!

Erwähnte Links

Links und Tools aus diesem Beitrag

Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 18. Oktober 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.

Ähnliche Einträge

Inhaltlich ähnlich, ermittelt über die KI-Suche.

  • Repository:tonyd2wild/The-Sparky-Command-Center

    Sparky Command Center: Schlankes Monitoring für GPU-Cluster und LLM-Inferenz

    The Sparky Command Center ist ein abhängigkeitsfreies Web-Dashboard zur Überwachung von DGX-Spark-Clustern und Linux-GPU-Systemen. Es erfasst Hardware-Telemetrie über SSH und Inferenzmetriken von vLLM oder llama.cpp ohne zusätzliche Datenbanken oder externe Python-Pakete.

    40SternePython

    KI & AI· Tool

  • Repository:Charonyuu/whatsmyagentdoing

    whatsmyagentdoing: Visuelles Dashboard für lokale KI-Coding-Agenten

    whatsmyagentdoing visualisiert aktive lokale KI-Agenten wie Claude Code, Codex oder Gemini CLI als virtuelles Büro im Browser. Entwickler sehen den Status aller parallelen Agenten auf einen Blick, wahlweise als 2D-Canvas, interaktive 3D-Szene oder Listenansicht. Das Tool läuft ohne NPM-Installationsschritte unter Node.js.

    270SterneJavaScript

    KI & AI· Tool

  • Repository:eugr/spark-vllm-docker

    spark-vllm-docker: Optimierte vLLM-Docker-Setups für DGX Spark

    spark-vllm-docker ist ein Open-Source-Projekt, das Docker-Konfigurationen und Startskripte bereitstellt, um das LLM-Inferenz-Framework vLLM auf NVIDIA DGX Spark-Systemen auszuführen. Es unterstützt Einzelknoten sowie Multi-Node-Cluster über Ray oder vLLMs nativen PyTorch-Distributed-Modus.

    2222SterneShell

    KI & AI· Tool

Zurück zur Wissensbasis

Lassen Sie uns über Ihr Projekt sprechen

Kontakt aufnehmen

Standorte

  • Mattersburg
    Johann Nepomuk Bergerstraße 7/2/14
    7210 Mattersburg, Austria
  • Wien
    Ungargasse 64-66/3/404
    1030 Wien, Austria

Dieser Inhalt wurde teilweise mithilfe von KI erstellt.