Ling: Open-Source Mixture-of-Experts-Sprachmodelle von InclusionAI

RepositoryinclusionAI/LingSammlung

InclusionAI stellt mit Ling eine Open-Source-Modellfamilie auf Basis einer Mixture-of-Experts-Architektur (MoE) bereit. Die Modelle erscheinen in zwei Größen: Ling-lite (16,8 Milliarden Gesamtparameter, 2,75 Milliarden aktivierte Parameter) und Ling-plus (290 Milliarden Gesamtparameter, 28,8 Milliarden aktivierte Parameter).

Das Wichtigste

  1. MoE-Architektur: Ling-lite nutzt 16,8B Parameter (2,75B aktiv), Ling-plus 290B Parameter (28,8B aktiv).
  2. Kontextfenster: Ling-lite-1.5 unterstützt bis zu 128K Token, Ling-plus-base bietet mindestens 64K Token Kontextlänge.
  3. Iterative Verbesserungen: Updates brachten mit Ling-lite-0415 und Version 1.5 gezielte Fortschritte bei Code, Mathematik und logischem Denken (Reasoning).
  4. Verfügbarkeit: Veröffentlicht unter der MIT-Lizenz auf Hugging Face und ModelScope mit Python-Unterstützung.

Warum das relevant ist

Mixture-of-Experts-Modelle senken den Rechenaufwand bei der Inferenz drastisch, da pro Abfrage nur ein Bruchteil aller Parameter aktiviert wird. Mit 2,75B aktiven Parametern bietet Ling-lite ein kompaktes Modell für lokale Deployments bei gleichzeitig langem Kontext von 128K.

Einordnung

Das Projekt richtet sich an Entwickler und KI-Forscher, die anpassbare MoE-Architekturen für Aufgaben von Textverarbeitung bis Reasoning suchen. Mit 267 Stars und 26 Forks ist die Community noch überschaubar, doch die regelmäßigen Modellupdates im Frühjahr 2025 und die Bereitstellung auf Hugging Face und ModelScope deuten auf eine funktionierende Release-Pipeline hin.

Gefunden in

Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 27. September 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.

Inhaltlich ähnlich, ermittelt über die KI-Suche.

  • Link:inclusionAI

    Ling-3.0-tiny: Leichtes hybrides Reasoning-MoE-Modell von inclusionAI

    inclusionAI hat Ling-3.0-tiny veröffentlicht, ein leichtgewichtiges MoE-Modell mit 7,9 Milliarden Gesamtparametern, das pro Token nur 1,3 Milliarden Parameter aktiviert. Das Modell setzt auf eine hybride Architektur aus linearen Aufmerksamkeits- und Latent-Attention-Schichten und zielt auf recheneffizientes Reasoning sowie Agenten-Aufgaben auf lokaler Hardware ab.

    KI & AI· Tool

  • Link:Ant Group

    inclusionAI: Ant Groups KI-Initiative auf Hugging Face

    inclusionAI ist die offizielle Hugging-Face-Organisation für die AGI-Initiative der Ant Group. Dort veröffentlicht das Unternehmen Open-Source-Modelle aus den Bereichen LLM, Bildgenerierung und Reinforcement Learning.

    KI & AI· Sammlung

  • Artikel:Thinking Machines Lab

    Thinking Machines Lab stellt Open-Weights-Modell Inkling vor

    Thinking Machines Lab hat Inkling veröffentlicht, ein multimodales Mixture-of-Experts-Modell mit 975 Milliarden Gesamtparametern (41 Milliarden aktiv) und 1 Million Token Kontext. Es ist vor allem als vielseitige Open-Weights-Basis für Fine-Tuning über die eigene Plattform Tinker gedacht.

    KI & AI· Ankündigung

  • Repository:JustVugg/colibri

    Colibrì: Frontier-MoE-Modelle lokal mit Streaming ausführen

    Colibrì ist eine leichtgewichtige Open-Source-Inferenz-Engine in reinem C ohne externe Abhängigkeiten, die riesige Mixture-of-Experts-Modelle (MoE) von 744 Milliarden bis 2,8 Billionen Parametern auf gewöhnlicher Consumer- und heterogener Hardware ausführt. Durch mehrstufiges Speichermanagement (AI Memory Multitiering) werden Experten dynamisch von der Festplatte gestreamt.

    37.671SterneC

    KI & AI· Tool

  • Artikel:Zhidx

    Ant Group veröffentlicht kompaktes MoE-Modell Ling-3.0-tiny

    Ant Groups Bailian hat das Open-Source-Modell Ling-3.0-tiny vorgestellt. Die Architektur kombiniert DeepSeeks MLA mit Kimis KDA in einem Mixture-of-Experts-Design mit 7,9 Milliarden Gesamtparametern, von denen pro Token nur 1,3 Milliarden aktiviert werden. Das Modell zielt auf den effizienten lokalen Einsatz auf Rechnern wie Apple-Silicon-Macs und DGX-Workstations ab.

    KI & AI· Ankündigung

Lassen Sie uns über Ihr Projekt sprechen

Standorte

  • Mattersburg
    Johann Nepomuk Bergerstraße 7/2/14
    7210 Mattersburg, Austria
  • Wien
    Ungargasse 64-66/3/404
    1030 Wien, Austria

Dieser Inhalt wurde teilweise mithilfe von KI erstellt.