Repositoryvosen/ZLUDATool
Entwickler und Anwender sind bei CUDA-optimierten Workloads traditionell an NVIDIA-Hardware gebunden. Eine kompatible Zwischenschicht ermöglicht potenziell mehr Hardware-Auswahl, ohne bestehende Software umschreiben zu müssen.
Das Projekt adressiert die starke Bindung an das CUDA-Ökosystem. Technisch setzt es auf Rust für die Implementierung der Schnittstellen. Die Metriken auf GitHub (über 14.800 Stars, fast 1.000 Forks und Aktualisierungen bis September 2026) weisen auf eine hohe Aufmerksamkeit hin, während die README-Dokumentation im Repository sehr knapp gehalten ist und auf externe Dokumentation verweist.
Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 27. September 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.
Inhaltlich ähnlich, ermittelt über die KI-Suche.
Repository:ashhart/TensorFold
TensorFold ist eine Open-Source-Inferenz-Engine, die Large Language Models auf Apple Silicon (via MLX/Metal) und NVIDIA-Grafikkarten (ab Compute Capability 8.9) bereitstellt. Das System bietet eine OpenAI- und Anthropic-kompatible Schnittstelle und implementiert modellspezifische Kernel sowie Draft-Verifikation.
1061SternePython
Repository:ashhart/MCDMA
MCDMA ermöglicht Remote Direct Memory Access (RDMA) über heterogene Workstation-Hardware hinweg. Das C-basierte Open-Source-Projekt verbindet Apple-Silicon-Systeme über Thunderbolt mit Linux-Systemen wie NVIDIA DGX Spark und AMD Strix Halo, um verteilte KI-Inferenz zu beschleunigen.
178SterneC
Repository:NVIDIA/OpenShell
OpenShell von NVIDIA ist eine quelloffene, in Rust entwickelte Sandbox-Laufzeitumgebung für autonome KI-Agenten. Sie setzt deklarierbare Sicherheitsrichtlinien auf Kernel-Ebene durch und schützt Anmeldedaten sowie Netzwerkgrenzen.
16.553SterneRust
Repository:openclaw/openclaw
OpenClaw ist ein quelloffener KI-Assistent auf TypeScript- und Node.js-Basis, der lokal auf eigenen Geräten läuft und Modelle, Werkzeuge sowie Messenger über ein zentrales Gateway vernetzt.
388.923SterneTypeScript
Link:Modular
Modular stellt MAX (Version 26.5) vor, ein Open-Source-Framework für AI-Serving und Modellentwicklung über CPUs, GPUs und ASICs hinweg. Es verzichtet auf CUDA- oder PyTorch-Abhängigkeiten und nutzt die Programmiersprache Mojo für portable GPU-Kernel.
Repository:ggml-org/llama.cpp
llama.cpp ist ein quelloffenes C/C++-Projekt der Organisation ggml-org, das auf LLM-Inferenz spezialisiert ist. Mit über 127.000 Sternen auf GitHub bietet es vorkompilierte Binärdateien, Docker-Container, REST-APIs und C-Bibliotheksanbindungen für den Betrieb von Sprachmodellen.
127.115SterneC++
Ein Teil von diesem Inhalt wurde mit KI gemacht.
