Unsloth Desktop: Lokale KI-Modelle ausführen, trainieren und bereitstellen

ArtikelUnsloth AITool

Unsloth hat die Beta-Version von Unsloth Desktop veröffentlicht. Die quelloffene Anwendung für macOS, Windows und Linux ermöglicht es, LLMs, Bild-, Video- und Audiomodelle lokal auszuführen, zu trainieren und bereitzustellen.

Das Wichtigste

  1. Basiert auf Tauri und läuft unter macOS, Windows, Linux und WSL auf CPUs und GPUs von NVIDIA, AMD, Intel und Apple.
  2. Unterstützt lokale Inferenz und Training für Textmodelle, Diffusionsmodelle (z. B. FLUX.2, MiniMax-H3) und Audioformate (Whisper, Qwen3-ASR).
  3. Enthält selbstheilende Tool-Aufrufe mit laut Hersteller 50 % höherer Genauigkeit sowie sichere Code-Ausführung für Python und Bash.
  4. Erlaubt die Anbindung lokaler Modelle an Agenten wie Claude Code, Codex und OpenCode.
  5. Ermöglicht No-Code-Training per Upload von PDF-, CSV- oder JSON-Dateien mit reduzierten VRAM-Anforderungen.
  6. Bietet Bereitstellung im lokalen Netzwerk (LAN) oder über kostenlose Cloudflare-HTTPS-Tunnel und verzichtet vollständig auf Telemetriedaten.

Warum das relevant ist

Für Entwickler und Unternehmen, die strenge Datenschutz- und Compliance-Vorgaben einhalten müssen, bietet die Desktop-Anwendung eine einheitliche Oberfläche für Training und Inferenz ohne Datenabfluss an Drittanbieter.

Einordnung

Unsloth baut auf bewährten Open-Source-Komponenten wie llama.cpp und Hugging Face auf. Die Kombination aus Modellbereitstellung, Agenten-Integration (unter anderem für Claude Code) und No-Code-Feinabstimmung senkt die Einstiegshürde für den lokalen Einsatz moderner Open-Weights-Modelle erheblich.

Gefunden in

Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 27. September 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.

Inhaltlich ähnlich, ermittelt über die KI-Suche.

  • Link:Unsloth AI

    Unsloth veröffentlicht Qwen3.6-27B-MTP im GGUF-Format

    Unsloth AI stellt mit Qwen3.6-27B-MTP-GGUF quantisierte Versionen des ersten Open-Weight-Modells aus der Qwen3.6-Reihe bereit. Das multimodale 27-Milliarden-Parameter-Modell nutzt Multi-Token Prediction (MTP) für schnellere Inferenz und bringt Verbesserungen bei Agentic Coding sowie Tool Calling mit.

    KI & AI· Sammlung

  • Artikel:unsloth.ai

    Unsloth Benchmarks: Höhere Geschwindigkeit und verringerter VRAM-Bedarf bei QLoRA

    Die Dokumentation von Unsloth präsentiert Benchmark-Ergebnisse für das Finetuning von LLMs auf NVIDIA-GPUs. Im Vergleich zur Kombination aus Hugging Face und FlashAttention-2 erreicht Unsloth bei Modellen wie Llama 3.1 und Llama 3.3 eine Verdopplung der Geschwindigkeit, spart über 70 Prozent VRAM ein und ermöglicht deutlich längere Kontextfenster.

    KI & AI· Sammlung

  • Link:Unsloth AI

    Unsloth veröffentlicht Dynamic-V3.0-GGUF-Quantisierungen für Qwen3.8-27B

    Unsloth AI hat quantisierte GGUF-Versionen des neuen Modells Qwen3.8-27B unter der Apache-2.0-Lizenz bereitgestellt. Die Quantisierungen nutzen das neue Verfahren Dynamic V3.0, das gegenüber anderen Anbietern eine höhere Genauigkeit bei gleicher Dateigröße erzielen soll. Qwen3.8-27B ist ein 27 Milliarden Parameter starkes Vision-Language-Modell mit nativer Bild- und Videoverarbeitung, hybridem DeltaNet- und Attention-Aufbau sowie flexibler Steuerung von Denkprozessen.

    KI & AI· Tool

  • Repository:ollama/ollama

    Ollama: Lokale Ausführung und Integration offener Sprachmodelle

    Ollama ist ein Open-Source-Framework in Go, mit dem Open-Weight-Modelle lokal ausgeführt, über APIs angesprochen und an Entwicklungswerkzeuge sowie Chat-Assistenten angebunden werden können.

    180.203SterneGo

    KI & AI· Tool

Lassen Sie uns über Ihr Projekt sprechen

Standorte

  • Mattersburg
    Johann Nepomuk Bergerstraße 7/2/14
    7210 Mattersburg, Austria
  • Wien
    Ungargasse 64-66/3/404
    1030 Wien, Austria

Dieser Inhalt wurde teilweise mithilfe von KI erstellt.