RepositoryTencent-Hunyuan/Hy4-previewAnkündigung
Große MoE-Architekturen ermöglichen Flaggschiff-Leistung bei verringerten Inferenzkosten pro Token. Mit Hy4-preview adaptiert Tencent jüngste Architekturinnovationen wie Sparse Attention und MTP für offene Großmodelle.
Das Repository stellt eine Vorschau auf die Hy4-Modellgeneration dar. Der Fokus liegt auf Recheneffizienz bei enormer Gesamtgröße (770B). Technisch bedient sich Tencent an Ansätzen aus DeepSeek und GLM (Gated DSA, IndexCache) und erweitert Residualverbindungen über iHC. Da es sich explizit um eine Preview-Version handelt, zielt das Projekt vor allem auf Evaluierung, Benchmarking und die Integration in Deployment-Stacks wie vLLM und SGLang ab.
Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 27. September 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.
Inhaltlich ähnlich, ermittelt über die KI-Suche.
Link:Tencent Hy Team
Das Tencent Hy Team hat Hy4-preview als quelloffenes Mixture-of-Experts-Modell (MoE) mit 770 Milliarden Gesamtparametern und 49 Milliarden aktiven Parametern pro Token vorgestellt. Das Flaggschiff-Modell bietet ein Kontextfenster von 1 Million Tokens und wurde für Aufgaben in Softwareentwicklung, Büroarbeit und wissenschaftlicher Forschung optimiert.
Link:deepseek-ai
DeepSeek hat die Modelldokumentation und Gewichte für DeepSeek-V4-Pro-DSpark auf Hugging Face bereitgestellt. Es handelt sich um das MoE-Modell DeepSeek-V4-Pro mit einem integrierten Modul für spekulative Dekodierung (DSpark) zur Beschleunigung der Inferenz.
Artikel:DeepSeek AI
DeepSeek hat die Preview-Version von DeepSeek-V4 als Open Source freigegeben. Die Modellreihe umfasst die Varianten DeepSeek-V4-Pro und DeepSeek-V4-Flash, bietet standardmäßig ein Kontextfenster von einer Million Tokens und bringt neue Architekturen zur Rechenzeit- und Speicheroptimierung mit.
Link:deepseek-ai
DeepSeek-AI hat DeepSeek-V4-Flash-0731 offiziell auf Hugging Face veröffentlicht. Das 304-Milliarden-Parameter-Modell ersetzt die Preview-Version und bringt integrierte spekulative Decodierung (DSpark) sowie deutlich verbesserte Agenten-Fähigkeiten mit.
Artikel:Simon Willison
DeepSeek hat mit DeepSeek-V4-Pro und DeepSeek-V4-Flash zwei neue Mixture-of-Experts-Modelle unter MIT-Lizenz veröffentlicht. Simon Willison analysiert deren Architektur, Token-Effizienz und die im Vergleich zu OpenAI, Google und Anthropic drastisch reduzierten API-Kosten.
Repository:Tencent/AngelSlim
AngelSlim ist ein quelloffenes Python-Toolkit von Tencent zur Komprimierung und Beschleunigung großer Sprach- und Multimodalmodelle. Es bietet Methoden für Quantisierung, spekulatives Decoding und Sparse Attention, um ressourcenintensive Modelle wie Hunyuan oder Qwen effizienter zu trainieren und auszuführen.
1627SternePython
Dieser Inhalt wurde teilweise mithilfe von KI erstellt.
