AVO: Autonome Evolutionssuche optimiert GPU-Kernel mittels Coding-Agenten

ArtikelTerry Chen, Zhifan Ye, Bing Xu, et al.Forschung

Ein Forschungsteam stellt mit Agentic Variation Operators (AVO) ein Framework vor, das klassische Mutations- und Crossover-Operatoren durch autonome KI-Agenten ersetzt. Auf NVIDIA Blackwell (B200) GPUs übertrafen die damit entwickelten Attention-Kernel etablierte Bibliotheken wie cuDNN und FlashAttention-4.

Das Wichtigste

  1. AVO ersetzt starre Mutations- und Crossover-Heuristiken klassischer evolutionärer Algorithmen durch autonome Coding-Agenten.
  2. Der Agenten-Loop nutzt Versionshistorien, eine domänenspezifische Wissensdatenbank sowie Feedback aus Testläufen, um Code-Änderungen zu entwerfen, zu reparieren, zu analysieren und zu prüfen.
  3. Nach sieben Tagen autonomer Evolution auf NVIDIA B200 GPUs übertrafen die erzeugten Multi-Head-Attention-Kernel cuDNN um bis zu 3,5 % und FlashAttention-4 um bis zu 10,5 %.
  4. Die gefundenen Optimierungen ließen sich in 30 Minuten autonomer Anpassung auf Grouped-Query Attention (GQA) übertragen (bis zu 7,0 % schneller als cuDNN, 9,3 % schneller als FlashAttention-4).

Warum das relevant ist

Die manuelle Optimierung von GPU-Kerneln für moderne Architekturen erfordert enormes Expertenwissen. AVO demonstriert, dass autonome Agenten über evolutionäre Schleifen mikroarchitektonische Optimierungen finden können, die selbst hochgradig handoptimierte Bibliotheken übertreffen.

Einordnung

Das Papier markiert einen Schritt von einfachen LLM-Vorschlägen hin zu geschlossenen agentenbasierten Evolutionszyklen. Anstatt Sprachmodelle nur als statische Code-Generatoren einzusetzen, agiert der Agent als vollständiger Variationsoperator mit Feedbackschleifen. Die schnelle Übertragbarkeit auf verwandte Architekturen wie GQA zeigt zudem das Potenzial zur automatisierten Anpassung an neue Hardware- und Kernel-Varianten.

Gefunden in

Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 27. September 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.

Inhaltlich ähnlich, ermittelt über die KI-Suche.

  • Artikel:Terry Chen, Yeyin (Eva) Zhu, Zhifan Ye, Jean-Francois Puget and Humphrey Shi

    NVIDIA AVO erreicht 100 % im ARC-AGI-3-Benchmark

    NVIDIA präsentiert mit Agentic Variation Operators (AVO) eine Agentenarchitektur für langlaufende Aufgaben, die Claude Opus 5 zu einem perfekten Ergebnis im ARC-AGI-3-Benchmark verhilft.

    KI & AI· Forschung

  • Link:NVIDIA

    NVIDIA DGX Spark: Desktop-KI-Supercomputer mit Grace-Blackwell-Chip

    NVIDIA stellt mit dem DGX Spark einen kompakten Desktop-Supercomputer vor, der speziell auf lokale autonome Agenten und generative KI-Workloads ausgelegt ist. Das System basiert auf dem GB10 Grace Blackwell Superchip und bietet 128 GB kohärenten Unified Memory.

    KI & AI· Tool

  • Artikel:Liyan Tang, Cyrus Rashtchian, Chun-Sung Ferng, Andrew Tomkins, Da-Cheng Juan, Tu Vu

    WikiSkill: Dauerhafte Wissensakkumulation für die Evolution von Agenten-Skills

    Das Forschungspapier stellt WikiSkill vor, ein Framework zur kontinuierlichen Weiterentwicklung von KI-Agenten-Fähigkeiten durch eine persistente Wissensdatenbank. Anstatt Erfahrungswerte in isolierten Optimierungsverläufen verstreut zu lassen, trennt WikiSkill Ausführungserfahrung, gesammeltes Wissen und ausführbare Skills voneinander.

    KI & AI· Forschung

  • Artikel:Shuai Shao, Kangning Zhang, Qingyao Li, Shijian Wang, Hao Wang, Wenxiang Jiao, Yuan Lu, Yi Guo, Weiwen Liu, Weinan Zhang

    Harness-R1: Automatisierte Laufzeit-Optimierung für KI-Agenten anhand von Fehlertrajektorien

    Ein Forschungsteam stellt Harness-R1 vor, eine Methode zur gezielten Anpassung der Software-Laufzeitumgebung (Harness) von LLM-Agenten. Statt nur Modellgewichte anzupassen, lernt ein separater 9B-Agent per Reinforcement Learning, fehlerhafte Ausführungsspuren zu analysieren und validierte Code-Patches für Kontextaufbereitung, Tool-Vermittlung und Aktionsvalidierung zu generieren.

    KI & AI· Forschung

  • Artikel:Devansh

    Stateful Swarms: Persistente Memory-Architektur schlägt traditionelle KI-Agenten

    Devansh beschreibt die Architektur der 'Stateful Swarms', die das Problem flüchtiger Kontexte und wiederholter Dokumentenverarbeitung durch eine persistente Blackboard-Architektur löst. Anstatt Dokumente mehrfach einzulesen oder Kontext per Prompt-Zusammenfassung zu übergeben, schreiben spezialisierte Agenten strukturierte, auditierbare Einträge in einen gemeinsamen Zustand. Im Harvey Legal Agent Benchmark erreichte dieser Ansatz höhere Erfolgsraten bei drastisch reduzierten Kosten im Vergleich zu traditionellen Systemen.

    KI & AI· Meinung

  • Artikel:Chris Alexiuk and Chintan Patel

    NVIDIA Nemotron 3.5 Lightning: Kompaktes MoE-Modell für Agenten-Workflows

    NVIDIA hat Nemotron 3.5 Lightning vorgestellt, ein offenes Mixture-of-Experts-Modell (MoE) mit 30 Milliarden Gesamt- und 3 Milliarden aktiven Parametern. Es wurde speziell für die Ausführungsebene langlebiger KI-Agenten optimiert, um Routineaufgaben wie Tool-Aufrufe und Ergebnisvalidierung schnell und kostengünstig zu bewältigen.

    KI & AI· Ankündigung

Lassen Sie uns über Ihr Projekt sprechen

Standorte

  • Mattersburg
    Johann Nepomuk Bergerstraße 7/2/14
    7210 Mattersburg, Austria
  • Wien
    Ungargasse 64-66/3/404
    1030 Wien, Austria

Dieser Inhalt wurde teilweise mithilfe von KI erstellt.