EmbeddingGemma 2: Googles kompaktes multimodales Embedding-Modell

LinkGoogle DeepMindTool

Google DeepMind hat EmbeddingGemma 2 veröffentlicht. Das quelloffene Modell mit 740 Millionen Parametern bildet Text, Code, Bilder, Videos und Audio in einem gemeinsamen 768-dimensionalen Vektorraum ab.

Das Wichtigste

  1. Gesamtgröße von 740M Parametern, bestehend aus einem 270M-Textmodell sowie separat ladbaren Encodern für Vision (170M) und Audio (300M).
  2. Basiert auf der Architektur von Gemma 4, unterstützt über 100 Sprachen und bietet ein Kontextfenster von 8.192 Tokens.
  3. Unterstützt Matryoshka Representation Learning (MRL) mit Vektordimensionen von 128, 256, 512 und 768 für bis zu 6-fache Speicherersparnis.
  4. Modulare Architektur erlaubt das Weglassen ungenutzter Modalitäten, wodurch der Speicherbedarf auf bis zu 270M Parameter sinkt.
  5. Arbeitet mit aufgabenspezifischen Prompt-Präfixen für asymmetrische Aufgaben (Suche, QA) und symmetrische Aufgaben (Clustering, Ähnlichkeit).
  6. Erfordert bfloat16 oder float32 für die Inferenz; float16 führt zu Rechenfehlern oder stiller Degradierung der Embeddings.

Warum das relevant ist

EmbeddingGemma 2 ermöglicht es, multimodale semantische Suche und RAG lokal auf Laptops oder Mobilgeräten auszuführen. Entwickler müssen nicht mehr getrennte Einbettungsmodelle für Audio, Bild und Text koordinieren.

Einordnung

Durch die modulare Struktur und Matryoshka-Kompression eignet sich das Modell für ressourcenbeschränkte Umgebungen. Nicht benötigte Encoder für Bild oder Audio können zur Laufzeit deaktiviert werden, und Vektoren lassen sich bis auf 256 Dimensionen ohne nennenswerten Qualitätsverlust kürzen.

Erwähnte Links

Gefunden in

Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 7. Oktober 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.

Ähnliche Einträge

Inhaltlich ähnlich, ermittelt über die KI-Suche.

  • Artikel:Nikita Pavlichenko

    JetBrains veröffentlicht Mellum2: 12B Mixture-of-Experts-Modell für Code und Text

    JetBrains hat Mellum2 vorgestellt, ein von Grund auf trainiertes Mixture-of-Experts-Modell mit insgesamt 12 Milliarden Parametern. Das Modell aktiviert pro Token lediglich 2,5 Milliarden Parameter, läuft unter der Apache-2.0-Lizenz und zielt auf latenzkritische Aufgaben in Entwicklungs- und KI-Pipelines ab.

    KI & AI· Ankündigung

  • Artikel:Ju-yeong Ji, Ravin Kumar

    Gemma 3: Architektur, Multimodalität und Neuerungen im Detail

    Google erklärt die Neuerungen in Gemma 3. Die Modellreihe bringt Vision-Language-Funktionen, längere Kontextfenster, einen überarbeiteten Tokenizer sowie architektonische Anpassungen für effizientere KV-Cache-Nutzung.

    KI & AI· Sammlung

  • X-Post:Xuan-Son Nguyen

    Open-Source-Such-App für macOS nutzt EmbeddingGemma 2 und llama.cpp

    Xuan-Son Nguyen stellt ein neues Open-Source-Projekt aus der Reddit-Community vor: Eine Desktop-Suchanwendung für macOS, die auf dem Modell EmbeddingGemma 2 basiert und lokal via llama.cpp läuft.

    154Lesezeichen11.881Aufrufe

    KI & AI· Tool

  • Link:Qwen

    Qwen3.8-27B: Multimodales 27B-Modell mit Hybrid-Architektur und Denkmodus

    Das Qwen-Team hat mit Qwen3.8-27B ein kompaktes, dichtes Vision-Language-Modell unter der Apache-2.0-Lizenz veröffentlicht. Das 27-Milliarden-Parameter-Modell kombiniert Gated DeltaNet mit regulärer Attention, versteht Bilder sowie Videos und bietet flexible Steuerungsmöglichkeiten für Denkprozesse.

    KI & AI· Sammlung

  • Repository:drumih/turbo-fieldfare

    TurboFieldfare: Gemma 4 26B-A4B mit 2 GB RAM auf Apple Silicon

    TurboFieldfare ist eine spezialisierte Swift- und Metal-Laufzeitumgebung, die das Sprachmodell Gemma 4 26B-A4B auf Apple-Silicon-Macs mit nur etwa 2 GB RAM ausführt. Statt das gesamte 14,3 GB große Modell im Arbeitsspeicher zu halten, verbleiben nur der 1,35 GB große Kern sowie der KV-Cache im RAM, während benötigte Experten-Layer dynamisch per SSD-Streaming nachgeladen werden.

    6609SterneSwift

    KI & AI· Tool

Zurück zur Wissensbasis

Lassen Sie uns über Ihr Projekt sprechen

Kontakt aufnehmen

Standorte

  • Mattersburg
    Johann Nepomuk Bergerstraße 7/2/14
    7210 Mattersburg, Austria
  • Wien
    Ungargasse 64-66/3/404
    1030 Wien, Austria

Dieser Inhalt wurde teilweise mithilfe von KI erstellt.