Wissensbasis

Artikel:Rico Sennrich, Barry Haddow, Alexandra Birch·17. Sep. 2026

Neuronale maschinelle Übersetzung seltener Wörter mittels Subword-Einheiten

Rico Sennrich, Barry Haddow und Alexandra Birch stellen eine Methode vor, mit der neuronale Übersetzungssysteme seltene und unbekannte Wörter durch Subword-Einheiten verarbeiten können. Statt auf ein festes Vokabular mit Wörterbuch-Rückfallebene zu setzen, nutzt das Verfahren Segmentierungen wie Byte Pair Encoding (BPE), um ein offenes Vokabular zu ermöglichen.

Aus Video: Building an LLM from Scratch: Neural Networks, Tokenization, and Transformers

Video:CURT·10. Juli 2026

Funktionsweise von LLMs von Grund auf: Neuronale Netze, Tokenisierung und Transformer

In einer detaillierten Übersicht mit begleitenden Codebeispielen erklärt CJ die Funktionsweise moderner Sprachmodelle. Er zeichnet die Entwicklung von regelbasierten Chatbots bis hin zu Transformern nach und demonstriert schrittweise Neuronale Netze, Byte Pair Encoding sowie Vektor-Embeddings.