Artikel:Elite Test Engineering
DeepSeek V4 Flash auf zwei DGX-Spark-Nodes im Produktivbetrieb
Ein Erfahrungsbericht dokumentiert das Aufsetzen des Modells DeepSeek-V4-Flash (284B MoE) über zwei DGX-Spark-Nodes mit Grace-Blackwell-Architektur mittels Ray und vLLM. Neben Hardware-Eigenheiten wie Unified Memory und NCCL-Bugs zeigt der Bericht, wie Multi-Token Prediction die Geschwindigkeit um 45 Prozent steigerte.
Aus Video: Testing DeepSeek V4 Flash on a Clustered DGX Spark and Acer GN100