Hintergrund und Funktionsweise
Kommerzielle KI-Modelle weigern sich bei Standard-Prompts meist, offensive Pentesting-Aufgaben durchzuführen. Als Lösung dienen sogenannte 'abliterierte' Modelle: Durch gezielte Subtraktion des internen Verweigerungs-Vektors aus den Modellgewichten fallen Schutzschranken weg, ohne dass das logische Denkvermögen leidet. Shrivu Shankar nutzt hierfür unter anderem dealignai/DeepSeek-V4.1-Flash-1017-UNCENSORED-FP8, gehostet auf Modal-Infrastruktur.
Die Architektur von agents-on-modal
Das veröffentlichte Repository sshh12/agents-on-modal modularisiert das Setup entlang dreier Achsen:
- Modelle: Verwaltung im Katalog (z. B. DeepSeek-V4, GLM-5.3, Qwen3.8), betrieben via SGLang oder llama.cpp mit automatischem Scale-to-Zero auf Modal-GPUs (etwa B300:4).
- Agenten-Harness: Unterstützung für gängige Entwickler-Werkzeuge wie Claude Code und die OpenAI Codex CLI.
- Sandboxing: Ausführung lokal, in isolierten Docker-Containern (ohne LAN-Zugriff) oder in cloudbasierten Modal-Sandboxes.
Ein integriertes Protokoll-Gateway wandelt proprietäre Befehle in standardisierte Chat-Completion-Aufrufe um. Für Web-Scraping und Netzwerkaufrufe lässt sich der ausgehende Datenverkehr über Residential Proxies leiten, während Token-Traffic direkt zum Modell fließt.
Erkenntnisse aus Praxistests
In einem vorausgegangenen Experiment mit rund 100 Agenten gelang es dem Setup, ohne Zero-Day-Exploits mehrere Altsysteme über IDOR-Lücken, schwache Passwörter und OSINT-Recherchen zu kompromittieren. Dies unterstreicht das Potenzial, aber auch das Gefahrenpotenzial unkontrollierter Agenten-Schwärme.