pi-bench: Benchmarks lokaler Coding-LLMs auf AMD-Hardware
Link·Donato Capitella··Sammlung
Das Projekt pi-bench testet den pi-coding-agent auf lokaler AMD-Hardware wie Strix Halo und Radeon 9700 GPUs. Ziel ist es, die Leistungsfähigkeit aktueller Modelle und Quantisierungen ohne Cloud-Abhängigkeit anhand von SWE-bench-Aufgaben zu ermitteln.
Das Wichtigste
1Fokus auf AMD-Hardware: Untersucht werden insbesondere AMD Strix Halo und Radeon 9700 Grafikkarten.
2Datensatz SWEBench-verified-mini: Getestet wird mit einer kuratierten Teilmenge von 50 statt 500 Aufgaben, die die Schwierigkeit und Verteilung des Originals abbildet.
3Hybrides Testverfahren: Neuere Benchmarks kombinieren automatisierte Testausführungen in SWE-bench-Containern mit Gemini 3.1 Pro als LLM-Judge.
4Standard-Setup: Der pi-coding-agent läuft ohne Modifikationen, eigene Prompts oder zusätzliche Wrappers.
5Laufzeit: Die Auswertung einzelner Modelle kann pro Durchlauf mehr als 24 Stunden in Anspruch nehmen.
Warum das relevant ist
Für Entwickler, die Coding-Agenten datenschutzkonform und unabhängig von Cloud-Providern betreiben wollen, liefert das Projekt verlässliche Vergleichswerte für AMD-basierte Consumer- und Workstation-Hardware.
Einordnung
Mit der Evaluierung lokaler Quantisierungen auf AMD-Chips schließt das Projekt eine Lücke gegenüber klassischen Nvidia-Benchmarks. Durch die Beschränkung auf den Bare-Default-Agenten bleiben die Ergebnisse reproduzierbar und fokussieren auf die Kernfähigkeiten der Modelle.
Donato Capitella stellt mit den Strix Halo AI Toolboxes eine Sammlung containerisierter Laufzeitumgebungen und Systemkonfigurationen für AMDs Mobilplattform Ryzen AI MAX+ bereit. Die Plattform erlaubt dank Unified Memory bis zu 128 GB gemeinsamen Arbeitsspeicher für lokale KI-Workloads wie LLM-Inferenz, Bildgenerierung und Fine-Tuning.
pi-review-panel ist eine TypeScript-Erweiterung für Pi-Coding-Agents, die Code-Reviews durch mehrere parallel konfigurierte KI-Modelle durchführt. Das Tool verzichtet bewusst auf ein automatisches Gesamturteil wie 'ready to merge' und liefert stattdessen strukturierte Befunde.
Die Plattform AI Coding Daily veröffentlicht Tests, Benchmarks und Video-Analysen rund um KI-gestützte Softwareentwicklung, lokale Modelle und Agenten-Sicherheitswerkzeuge.
Die Website AI Coding Daily veröffentlicht laufend Tests, Benchmarks und Video-Tutorials zum praktischen Einsatz von Sprachmodellen in der Softwareentwicklung. Im Fokus stehen Vergleiche von Spitzenmodellen, lokale LLMs und Sicherheitswerkzeuge für Entwickler.
OpenCode ist ein quelloffener KI-Coding-Agent, der im Terminal, in IDEs sowie als eigenständige Desktop-Applikation läuft und über 75 Modell-Anbieter unterstützt.
AMD hat ein kostenloses Entwicklerprogramm für KI-Workloads gestartet. Mitglieder erhalten Cloud-Guthaben, Zugriff auf Kurse sowie Support für aktuelle Modelle und Hardware.