6 Einträge
Schlagwort: gemmaRepository:ollama/ollama
Ollama ist ein Open-Source-Framework in Go, mit dem Open-Weight-Modelle lokal ausgeführt, über APIs angesprochen und an Entwicklungswerkzeuge sowie Chat-Assistenten angebunden werden können.
180.203SterneGo
Aus Video: AI Weekly Updates: Open-Source Model Surge, Agent Harnesses, and Meta's AI Reality Check
Repository:google-ai-edge/LiteRT-LM
LiteRT-LM ist ein Open-Source-Framework von Google zur plattformübergreifenden Ausführung großer Sprachmodelle direkt auf Edge-Geräten. Die Software nutzt Hardwarebeschleunigung über GPU und NPU und treibt On-Device-KI-Funktionen in Chrome, Pixel Watch und Chromebook Plus an.
6375SterneC++
Aus Video: Weekly AI Update: New Models, Agent Workflows, and Infrastructure Shifts
Link:Samarveer Singh
Samarveer Singh vergleicht die integrierte WebUI von llama.cpp mit Ollama für das lokale Hosting von Sprachmodellen. Während Ollama bei der Modellverwaltung und einfachen Installation überlegen bleibt, bietet llama.cpp spürbar schnellere Inferenz und tiefere Konfigurationsmöglichkeiten.
Aus Video: Weekly AI Updates: Vulkan, Mojo, Kimi K3, and Emerging Agent Frameworks
Repository:deepseek-ai/DeepSpec
DeepSpec ist eine Open-Source-Codebasis von DeepSeek zum Trainieren und Evaluieren von Draft-Modellen für spekulatives Dekodieren. Die Suite deckt die gesamte Pipeline ab: Datenvorbereitung, Modelltraining auf Multi-GPU-Knoten und Benchmarking.
7081SternePython
Aus Video: Weekly AI Updates: GPT 5.6, Claude Sonnet 5, and Ornith
Repository:drumih/turbo-fieldfare
TurboFieldfare ist eine spezialisierte Swift- und Metal-Laufzeitumgebung, die das Sprachmodell Gemma 4 26B-A4B auf Apple-Silicon-Macs mit nur etwa 2 GB RAM ausführt. Statt das gesamte 14,3 GB große Modell im Arbeitsspeicher zu halten, verbleiben nur der 1,35 GB große Kern sowie der KV-Cache im RAM, während benötigte Experten-Layer dynamisch per SSD-Streaming nachgeladen werden.
6609SterneSwift
Aus Video: AI Weekly Updates: Open-Source Model Surge, Agent Harnesses, and Meta's AI Reality Check
VideoVideo:Lev Selector
In seinem wöchentlichen KI-Rückblick vom 12. Juni 2026 berichtet Lev Selector über neue Spitzenmodelle wie Claude Fable 5, geplante Preis- und Subskriptionsänderungen bei Anthropic sowie die zunehmende Bedeutung von Agenten-Harnesses und persistentem Speicher.
6 von 6 angezeigt
Haben Sie einen interessanten Artikel, ein Video oder einen Tweet, der in unsere Wissensbasis gehört? Schreiben Sie uns an office@webconsulting.at.
Dieser Inhalt wurde teilweise mithilfe von KI erstellt.
