Repositoryhhhuang/CAGSammlung
Klassische RAG-Systeme sind oft fehleranfällig, langsam und architektonisch aufwendig zu warten. Mit wachsenden Kontextfenstern moderner LLMs bietet CAG einen pragmatischen Ansatz: Wenn Dokumentensammlungen in den Kontext passen, lässt sich durch KV-Caching eine deutlich schnellere und einfachere Inferenz ohne Vektor-Retrieval realisieren.
Das Projekt bietet experimentellen Code in Python zur Evaluierung von CAG im Vergleich zu RAG (z. B. mit Llama-3.1-8B-Instruct). Es handelt sich primär um ein akademisches Begleit-Repository für ein Konferenz-Paper. Für den produktiven Einsatz ist es weniger ein fertiges Framework als vielmehr eine Machbarkeitsstudie und ein Referenzmuster, das zeigt, wie KV-Cache-Wiederverwendung Retrieval-Architekturen vereinfachen kann.
Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 27. September 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.
Inhaltlich ähnlich, ermittelt über die KI-Suche.
Repository:OpenSPG/KAG
KAG (Knowledge Augmented Generation) ist ein Open-Source-Framework, das Large Language Models mit der OpenSPG-Engine kombiniert. Es soll klassische RAG-Vektorsuchen und OpenIE-basierte GraphRAG-Ansätze bei komplexen, domänenspezifischen Abfragen übertreffen.
9039SternePython
Repository:OSU-NLP-Group/HippoRAG
HippoRAG (mittlerweile in Version 2) ist ein Open-Source-Framework für Large Language Models, das durch Wissensgraphen und Personalized PageRank Verbindungen zwischen externen Dokumenten knüpft und an das menschliche Langzeitgedächtnis angelehnt ist.
3980SternePython
Repository:HuskyInSalt/CRAG
CRAG (Corrective Retrieval Augmented Generation) ist ein quelloffenes Forschungs-Framework zur Verbesserung von RAG-Pipelines. Es bewertet die Qualität abgerufener Dokumente über einen leichtgewichtigen Evaluator und löst bei unzureichenden Ergebnissen alternative Aktionen wie Websuchen oder Informationsfilterung aus.
469SternePython
Repository:LMCache/LMCache
LMCache ist ein Open-Source-Projekt unter Apache-2.0-Lizenz, das als spezialisierter Management-Layer für den KV-Cache bei LLM-Inferenz dient. Es optimiert Latenz und Kosten beim Serving von Sprachmodellen auf GPUs von Nvidia und AMD.
11.660SternePython
Link:lmcache.ai
LMCache ist eine modulare Open-Source-Infrastruktur für den Key-Value-Cache (KV-Cache) bei LLM-Inferenzen. Das System speichert, komprimiert, durchsucht und teilt vorberechnete KV-Caches über GPU-, CPU- und externe Speicher hinweg, um redundante Prefill-Berechnungen zu minimieren.
Repository:AkariAsai/self-rag
SELF-RAG ist ein Open-Source-Framework, mit dem Sprachmodelle darauf trainiert werden, bedarfsgerecht externe Daten abzurufen, Inhalte zu generieren und eigene Antworten über Reflexions-Tokens selbst zu bewerten.
2421SternePython
Dieser Inhalt wurde teilweise mithilfe von KI erstellt.
