Unsloth veröffentlicht Qwen3.6-27B-MTP im GGUF-Format

LinkUnsloth AISammlung

Unsloth AI stellt mit Qwen3.6-27B-MTP-GGUF quantisierte Versionen des ersten Open-Weight-Modells aus der Qwen3.6-Reihe bereit. Das multimodale 27-Milliarden-Parameter-Modell nutzt Multi-Token Prediction (MTP) für schnellere Inferenz und bringt Verbesserungen bei Agentic Coding sowie Tool Calling mit.

Das Wichtigste

  1. 27-Milliarden-Parameter-Modell als multimodales Modell (Causal Language Model mit Vision Encoder).
  2. Multi-Token Prediction (MTP) ermöglicht laut Anbieter eine rund 1,5- bis 2-fache Inferenzgeschwindigkeit ohne Genauigkeitsverlust.
  3. Natives Kontextfenster von 262.144 Tokens, erweiterbar auf bis zu 1.010.000 Tokens (empfohlen werden mindestens 128k Tokens).
  4. Architektur kombiniert Gated DeltaNet und Gated Attention über 64 Layer hinweg.
  5. Optimiert für Agentic Coding, Thinking Preservation zur Beibehaltung von Reasoning-Kontext sowie verbessertes Parsing geschachtelter Objekte bei Tool Calls.
  6. Lauffähig über llama.cpp, vLLM, SGLang, Ollama, Docker Model Runner und Unsloth Studio unter Apache-2.0-Lizenz.

Warum das relevant ist

Große Kontextfenster und beschleunigte Inferenz mittels Multi-Token Prediction machen Modelle dieser Größenklasse attraktiv für lokale Deployments oder private Cloud-Setups. Vor allem für automatisierte Programmier-Workflows und Tool-Aufrufe senkt die GGUF-Bereitstellung die Hardware-Hürden.

Einordnung

Das Release adressiert zentrale Praxisprobleme lokaler KI-Agenten: Latenz und Kontextgröße. Durch die MTP-Unterstützung und quantisierte Varianten wie UD-Q4_K_XL lässt sich Qwen3.6-27B in gängigen Open-Source-Runtimes wie llama.cpp oder SGLang betreiben. Wichtig für Entwickler ist die Unterstützung von Developer Roles für Tools wie Codex oder OpenCode sowie die Beibehaltung des Denkprozesses über Interaktionen hinweg.

Erwähnte Links

Gefunden in

Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 27. September 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.

Ähnliche Einträge

Inhaltlich ähnlich, ermittelt über die KI-Suche.

  • Link:Unsloth AI

    Unsloth veröffentlicht Dynamic-V3.0-GGUF-Quantisierungen für Qwen3.8-27B

    Unsloth AI hat quantisierte GGUF-Versionen des neuen Modells Qwen3.8-27B unter der Apache-2.0-Lizenz bereitgestellt. Die Quantisierungen nutzen das neue Verfahren Dynamic V3.0, das gegenüber anderen Anbietern eine höhere Genauigkeit bei gleicher Dateigröße erzielen soll. Qwen3.8-27B ist ein 27 Milliarden Parameter starkes Vision-Language-Modell mit nativer Bild- und Videoverarbeitung, hybridem DeltaNet- und Attention-Aufbau sowie flexibler Steuerung von Denkprozessen.

    KI & AI· Tool

  • Link:Qwen

    Qwen3.8-27B: Multimodales 27B-Modell mit Hybrid-Architektur und Denkmodus

    Das Qwen-Team hat mit Qwen3.8-27B ein kompaktes, dichtes Vision-Language-Modell unter der Apache-2.0-Lizenz veröffentlicht. Das 27-Milliarden-Parameter-Modell kombiniert Gated DeltaNet mit regulärer Attention, versteht Bilder sowie Videos und bietet flexible Steuerungsmöglichkeiten für Denkprozesse.

    KI & AI· Sammlung

  • Link:Empero AI

    Qwythos-27B-v1: Unzensiertes Open-Weight-Modell mit 1M Kontext und nativer Tool-Nutzung

    Empero AI veröffentlicht Qwythos-27B-v1, ein vollständiges Open-Weight-Reasoning-Modell auf Basis von Qwen3.5-27B. Der Checkpoint behält Multi-Token-Prediction (MTP), Vision-Fähigkeiten und ein auf über 1 Million Token erweitertes Kontextfenster bei und wurde gezielt für Terminal- und Agenten-Workflows optimiert.

    KI & AI· Sammlung

Zurück zur Wissensbasis

Lassen Sie uns über Ihr Projekt sprechen

Kontakt aufnehmen

Standorte

  • Mattersburg
    Johann Nepomuk Bergerstraße 7/2/14
    7210 Mattersburg, Austria
  • Wien
    Ungargasse 64-66/3/404
    1030 Wien, Austria

Dieser Inhalt wurde teilweise mithilfe von KI erstellt.