Wissensbasis

Link:UkisAI·9. Nov. 2026

Swift-1.5-GLM-5.3-Flash-NVFP4: Effizienteres Reasoning auf Blackwell-GPUs

UkisAI veröffentlicht eine mit NVIDIA ModelOpt quantisierte NVFP4-Variante von GLM-5.3-Flash für NVIDIA-Blackwell-Systeme. Durch gezieltes Post-Training reduziert das Modell Denk-Tokens um 57,7 Prozent und beschleunigt die Ausführung bei minimalem Genauigkeitsverlust. Es richtet sich an Entwickler, die Coding- und Agenten-Workflows lokal hosten.

Aus X-Post: Post-Trained GLM-5.3-Flash Variants for Coding and Security

X-Post:O·8. Nov. 2026

Post-Training-Varianten von GLM-5.3-Flash für Coding und Security

In einer Diskussion um GLM-5.3-Flash empfiehlt Nutzer O spezialisierte Fine-Tuning-Modelle auf Hugging Face. Swift 1.5 von UkisAI reduziert Denk-Tokens für den Alltagseinsatz drastisch, während Cantinas apex-flash-1-abliterated auf Sicherheitsanalysen ausgelegt ist. Laut dem Autor übertreffen diese Varianten sowohl das Basismodell als auch DeepSeek.

13Lesezeichen468Aufrufe

Artikel:Chris Alexiuk and Chintan Patel·5. Sep. 2026

NVIDIA Nemotron 3.5 Lightning: Kompaktes MoE-Modell für Agenten-Workflows

NVIDIA hat Nemotron 3.5 Lightning vorgestellt, ein offenes Mixture-of-Experts-Modell (MoE) mit 30 Milliarden Gesamt- und 3 Milliarden aktiven Parametern. Es wurde speziell für die Ausführungsebene langlebiger KI-Agenten optimiert, um Routineaufgaben wie Tool-Aufrufe und Ergebnisvalidierung schnell und kostengünstig zu bewältigen.

Aus Video: Weekly AI Updates: Model Releases, Agent Harnesses, and Developer Tooling (August 2026)

Artikel:NVIDIA et al.·5. Sep. 2026

LLM-Pretraining in 4-Bit: NVIDIA stellt NVFP4-Trainingsansatz vor

Ein Forschungsteam von NVIDIA hat eine Methode vorgestellt, um Large Language Models stabil und akkurat im 4-Bit-Gleitkommaformat NVFP4 vorzutrainieren. Zur Validierung trainierten die Forscher ein Modell mit 12 Milliarden Parametern auf 10 Billionen Tokens – laut Autoren der bisher längste dokumentierte Trainingslauf in 4-Bit-Präzision. Die Ergebnisse zeigen vergleichbare Trainingsverluste und Genauigkeiten wie bei einer FP8-Baseline.

Artikel:Inferact·5. Sep. 2026

vLLM auf NVIDIA DGX Spark: Architektur, Konfiguration und lokales Serving

Der Leitfaden erläutert den Betrieb von vLLM auf NVIDIAs Desk-Side-System DGX Spark (GB10). Durch den gemeinsamen 128-GB-Unified-Memory-Pool eignet sich das System besonders für lokale Inferenz mit NVFP4-MoE-Modellen wie Nemotron-3-Super.