SELF-RAG: Selbstreflexive Retrieval-Augmented Generation für Sprachmodelle

RepositoryAkariAsai/self-ragForschung

SELF-RAG ist ein Open-Source-Framework, mit dem Sprachmodelle darauf trainiert werden, bedarfsgerecht externe Daten abzurufen, Inhalte zu generieren und eigene Antworten über Reflexions-Tokens selbst zu bewerten.

Das Wichtigste

  1. Bedarfsgerechtes Abrufen: Das Modell entscheidet dynamisch, ob es externe Dokumente mehrfach, einfach oder gar nicht abruft.
  2. Kritik per Reflection Tokens: Spezielle Tokens bewerten während der Generierung Aspekte wie Relevanz und Faktentreue.
  3. Segment-wise Beam Search: Die Textauswahl wird abschnittsweise anhand vorgegebener Präferenzen und Nützlichkeitswerte optimiert.
  4. Verfügbare Modelle: Auf Hugging Face stehen vortrainierte Modellgewichte für LLaMA-2-Varianten (7B und 13B) bereit.
  5. Inferenz via vLLM: Für eine schnelle Ausführung setzt das Projekt auf die Inferenz-Engine vLLM.

Warum das relevant ist

Klassisches RAG führt Abfragen oft starr und pauschal durch, was zu redundantem Kontext und Fehlern führen kann. SELF-RAG trainiert Modelle darauf, Abrufe gezielt zu steuern und Behauptungen durch interne Reflexionsschritte eigenständig auf Korrektheit zu prüfen.

Einordnung

Das Repository stellt die offizielle Implementierung einer auf der ICLR 2024 (Oral) vorgestellten Forschungsarbeit dar. Technologisch basiert es auf Python, Hugging Face Hub und vLLM. Das Projekt richtet sich vor allem an KI-Forschende und ML-Engineers, die komplexe RAG-Architekturen optimieren wollen. Da es sich um akademischen Forschungscode mit dazugehörigen Modellgewichten und Trainingsdaten handelt, eignet es sich primär als Referenz- und Evaluierungsbasis und erfordert für den Produktionseinsatz Integrationsaufwand.

Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 27. September 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.

Inhaltlich ähnlich, ermittelt über die KI-Suche.

  • Repository:HuskyInSalt/CRAG

    CRAG: Korrektive Retrieval-Augmented Generation für robustere LLM-Antworten

    CRAG (Corrective Retrieval Augmented Generation) ist ein quelloffenes Forschungs-Framework zur Verbesserung von RAG-Pipelines. Es bewertet die Qualität abgerufener Dokumente über einen leichtgewichtigen Evaluator und löst bei unzureichenden Ergebnissen alternative Aktionen wie Websuchen oder Informationsfilterung aus.

    469SternePython

    KI & AI· Forschung

  • Repository:OpenSPG/KAG

    OpenSPG/KAG: Logikgeführtes Reasoning und Retrieval als Alternative zu RAG

    KAG (Knowledge Augmented Generation) ist ein Open-Source-Framework, das Large Language Models mit der OpenSPG-Engine kombiniert. Es soll klassische RAG-Vektorsuchen und OpenIE-basierte GraphRAG-Ansätze bei komplexen, domänenspezifischen Abfragen übertreffen.

    9039SternePython

    KI & AI· Tool

  • Repository:OSU-NLP-Group/HippoRAG

    HippoRAG 2: Neurobiologisch inspiriertes Gedächtnis-Framework für LLMs

    HippoRAG (mittlerweile in Version 2) ist ein Open-Source-Framework für Large Language Models, das durch Wissensgraphen und Personalized PageRank Verbindungen zwischen externen Dokumenten knüpft und an das menschliche Langzeitgedächtnis angelehnt ist.

    3980SternePython

    KI & AI· Forschung

  • Repository:parthsarthi03/raptor

    RAPTOR: Rekursive Baumstrukturen für Retrieval-Augmented Generation

    RAPTOR (Recursive Abstractive Processing for Tree-Organized Retrieval) ist die offizielle Python-Implementierung eines RAG-Ansatzes, der Dokumente in rekursiven Baumstrukturen organisiert. Dadurch wird kontextbezogenes Retrieval über lange Texte hinweg ermöglicht.

    1752SternePython

    KI & AI· Forschung

  • Repository:hhhuang/CAG

    Cache-Augmented Generation (CAG): Alternative zu RAG über KV-Caching

    Das Open-Source-Repository CAG stellt Cache-Augmented Generation als schlanke Alternative zu Retrieval-Augmented Generation (RAG) vor. Statt Dokumente zur Laufzeit über Vektordatenbanken abzurufen, wird der gesamte Wissensbestand vorab in das Kontextfenster geladen und als KV-Cache vorgehalten.

    1540SternePython

    KI & AI· Sammlung

  • Repository:ShenSeanChen/launch-agentic-rag

    launch-agentic-rag: FastAPI-Backend für Agentic RAG mit Tool-Calling

    Ein Open-Source-Repository zeigt eine Referenzimplementierung für Agentic RAG auf Basis von FastAPI. Das System erweitert traditionelle Retrieval-Pipelines um autonome Reasoning-Schritte und Tool-Aufrufe wie Kalenderbuchungen und E-Mail-Versand.

    43SternePython

    KI & AI· Tool

Lassen Sie uns über Ihr Projekt sprechen

Standorte

  • Mattersburg
    Johann Nepomuk Bergerstraße 7/2/14
    7210 Mattersburg, Austria
  • Wien
    Ungargasse 64-66/3/404
    1030 Wien, Austria

Dieser Inhalt wurde teilweise mithilfe von KI erstellt.