Repository:lyramakesmusic/neuron-explorer
Neuron Explorer: Interaktives Steering- und Analyse-Tool für Qwen3.5-4B
Neuron Explorer ist ein spezialisiertes Open-Source-Tool für die mechanistische Interpretierbarkeit von Qwen3.5-4B. Es manipuliert systematisch einzelne MLP-Neuronen, speichert alle Rollouts und visualisiert Aktivierungen und Linsen in einer 3D-Ansicht. Die Anwendung richtet sich an KI-Forschende und Entwickler im Bereich Modell-Steering.
1493SternePython
Aus Video: GitHub Trending #56: 35 Trending Open-Source Projects and Agent Skills