Repository:woelper/offgrid
offgrid: Autarke All-in-One-Laufzeitumgebung für lokale LLMs in Rust
offgrid ist eine portable Einzeldatei-Anwendung in Rust, die das Herunterladen, Ausführen und Bereitstellen von Sprachmodellen komplett offline ermöglicht. llama.cpp ist direkt einkompiliert, wodurch Python-Umgebungen und externe Server entfallen. Das Tool richtet sich an Entwickler, die ohne Cloud, Telemetrie oder Internetabhängigkeiten lokal arbeiten wollen.
4SterneRust
Aus X-Post: 0xSero Showcases Minimalist Interface for Local AI