Wissensbasis

Link:Diogo Almeida·27. Sep. 2026

Was kommt nach RLHF? Warum Verlässlichkeit ein anderes Trainingsziel braucht

In seinem Vortrag auf der AI Engineer World's Fair 2026 argumentiert Diogo Almeida (früher bei OpenAI an GPT-4 und InstructGPT beteiligt, heute TypeSafe AI), dass RLHF Sprachmodelle zu hervorragenden Assistenten gemacht hat, aber echte unbeaufsichtigte Automatisierung behindert. Da RLHF menschliche Präferenzen belohnt, neigen Modelle dazu, überzeugend zu wirken statt kalibriert und korrekt zu sein. Für zuverlässige Hintergrundprozesse wird ein neues Optimierungsziel benötigt.

Aus X-Post: What's Next After RLHF? Diogo Almeida on Assistance Versus Automation

Artikel:Wikipedia contributors·18. Sep. 2026

Reinforcement Learning from Human Feedback (RLHF): Funktionsweise und Einsatzbereiche

Reinforcement Learning from Human Feedback (RLHF) ist ein Verfahren im maschinellen Lernen, das KI-Modelle an menschlichen Präferenzen ausrichtet. Anstatt feste Belohnungsfunktionen manuell zu definieren, bewerten menschliche Annotatoren Modellausgaben im Vergleich. Daraus lernt ein separates Belohnungsmodell, das wiederum die Modell-Policy mittels Algorithmen wie Proximal Policy Optimization optimiert.

X-Post:AI Engineer 🔜 Paris 🇫🇷·16. Sep. 2026

Was kommt nach RLHF? Diogo Almeida über Assistenz versus Automation

In seinem Vortrag auf der AI Engineer World's Fair 2026 analysiert Diogo Almeida (TypeSafe AI) die Grenzen von Reinforcement Learning from Human Feedback (RLHF). Er unterscheidet grundlegend zwischen KI-Assistenzsystemen und echter, unbeaufsichtigter Automatisierung.

2Lesezeichen812Aufrufe

Artikel:wandb.ai·5. Sep. 2026

LLM-as-a-Judge: Funktionsweise, Typen und Praxiseinsatz

Ein Leitfaden von Weights & Biases erläutert das Konzept von LLM-as-a-Judge. Dabei bewerten große Sprachmodelle die Ausgaben anderer KI-Systeme anhand strukturierter Kriterien wie Relevanz, Genauigkeit und Sicherheit, um die Lücke zwischen teurer menschlicher Evaluierung und starren Metriken wie BLEU oder ROUGE zu schließen.

Aus Video: Weekly AI Updates: Local Models, GPT-6 Astra, and Agent Architectures

Video:Stanford Online·3. Aug. 2026

Stanford CS329A: Einführung in selbstverbessernde KI-Agenten und Scaling-Trends

In der ersten Vorlesung des Stanford-Kurses CS329A geben Aakanksha Chowdhery und Azalia Mirhoseini einen Überblick über die Entwicklung von Sprachmodellen und autonomen Agenten. Sie beleuchten klassische Scaling Laws, emergentes Denkvermögen via Chain of Thought, Post-Training-Methoden wie RLHF sowie neue Paradigmen: Test-Time-Compute (Inference-Time Scaling) und strukturierte agentische Workflows in Coding- und Research-Tools.