Wissensbasis

Artikel:Wikipedia contributors·17. Sep. 2026

Byte-Pair Encoding: Von der Datenkompression zur LLM-Tokenisierung

Byte-Pair Encoding (BPE), ursprünglich 1994 von Philip Gage als Algorithmus zur Datenkompression vorgestellt, bildet in modifizierter Form das Fundament moderner Tokenizer für große Sprachmodelle (LLMs). Anstelle maximaler Kompression erzeugt die LLM-Variante ein fest definiertes Token-Vokabular durch schrittweises Zusammenführen häufiger n-Gramme.

Aus Video: Building an LLM from Scratch: Neural Networks, Tokenization, and Transformers

Repository:microsoft/graphrag·5. Sep. 2026

Microsoft GraphRAG: Graph-basiertes RAG wechselt in den Wartungsmodus

GraphRAG von Microsoft ist ein modulares System zur Extraktion strukturierter Wissensgraphen aus unstrukturiertem Text zur Verbesserung von RAG-Pipelines. Das Forschungsprojekt befindet sich mittlerweile im Wartungsmodus.

35.845SternePython

Aus Video: Lev Selector's Weekly AI Updates (7 August 2026)

Link:Leopold Aschenbrenner·5. Sep. 2026

Situational Awareness: Leopold Aschenbrenners Ausblick auf das KI-Jahrzehnt

In seiner Essayreihe „Situational Awareness“ zeichnet der ehemalige OpenAI-Mitarbeiter Leopold Aschenbrenner ein Szenario, in dem künstliche allgemeine Intelligenz (AGI) und Superintelligenz bis zum Ende des Jahrzehnts Realität werden. Er skizziert den rasanten Anstieg des Rechenbedarfs, massive geopolitische Risiken und die Notwendigkeit staatlicher Kontrolle.

Aus Video: Lev Selector's Weekly AI Updates (7 August 2026)

Link:llm-chronicles.com·5. Sep. 2026

LLM Chronicles: Strukturierter Video- und Praxiskurs zu Deep Learning und Sprachmodellen

LLM Chronicles ist eine praxisorientierte Bildungsplattform, die Deep Learning und Large Language Models anhand von Whiteboard-Animationen und interaktiven PyTorch-Labs vermittelt. Die Inhalte reichen von grundlegenden Perzeptronen bis zu aktuellen Reasoning-Modellen und Absicherungsmethoden.