Repository:sybil-solutions/local-ai-registry
Local AI Registry: Geprüfte Rezepte für lokale KI-Modelle je GPU
Die Local AI Registry sammelt verifizierte Konfigurationen, um Open-Source-LLMs optimal auf lokaler Hardware auszuführen. Jedes Rezept ist fest an spezifische Modell-Commits und Engine-Images gekoppelt und muss sechs funktionale Prüfungen sowie eine Mindestgeschwindigkeit von 15 Tokens pro Sekunde bestehen.
281SterneHTML
Aus X-Post: 0xSero Showcases Minimalist Interface for Local AI