18 Einträge
Schlagwort: apple-silicon
X-Post:Marcus Lowe
Marcus Lowe hat die Beta-Version von Jaste vorgestellt, ein Werkzeug für intelligentes Kopieren und Einfügen auf Basis von Jev von Typesafe AI. Die App ist aktuell für Apple Silicon unter macOS verfügbar.
652Lesezeichen112.592Aufrufe
X-Post:Xaden Ryan
Xaden Ryan plant ein Experiment zur Aufteilung von LLM-Workloads: Zwei DGX Sparks sollen den rechenintensiven Prefill-Schritt übernehmen, während ein Apple M3 Ultra mit 512 GB Unified Memory die Token-Generierung durchführt. Ziel ist es, lange Kontext-Prompts für GLM-5.3 zu beschleunigen.
25Lesezeichen8838Aufrufe
Link:Apple
Apple hat die neue Generation des Mac Studio mit M5-Max- und M5-Ultra-Chips vorgestellt. Das System zielt auf anspruchsvolle Entwicklungs-, Rendering- und lokale KI-Workloads ab.
Aus Video: Weekly AI Updates: Local Models, GPT-6 Astra, and Agent Architectures
Artikel:Zhidx
Ant Groups Bailian hat das Open-Source-Modell Ling-3.0-tiny vorgestellt. Die Architektur kombiniert DeepSeeks MLA mit Kimis KDA in einem Mixture-of-Experts-Design mit 7,9 Milliarden Gesamtparametern, von denen pro Token nur 1,3 Milliarden aktiviert werden. Das Modell zielt auf den effizienten lokalen Einsatz auf Rechnern wie Apple-Silicon-Macs und DGX-Workstations ab.
Aus Video: Weekly AI Updates: Model Releases, Agent Harnesses, and Developer Tooling (August 2026)
Link:inclusionAI
inclusionAI hat Ling-3.0-tiny veröffentlicht, ein leichtgewichtiges MoE-Modell mit 7,9 Milliarden Gesamtparametern, das pro Token nur 1,3 Milliarden Parameter aktiviert. Das Modell setzt auf eine hybride Architektur aus linearen Aufmerksamkeits- und Latent-Attention-Schichten und zielt auf recheneffizientes Reasoning sowie Agenten-Aufgaben auf lokaler Hardware ab.
Aus Video: Weekly AI Updates: Model Releases, Agent Harnesses, and Developer Tooling (August 2026)
Artikel:ollama.com
Meta Superintelligence Labs hat Muse Glimmer vorgestellt, ein multimodales 30B-Modell unter der Apache-2.0-Lizenz, das nun direkt über Ollama lokal ausgeführt werden kann. Das Modell richtet sich an lokale Coding-Agenten und Assistenten-Frameworks.
Aus Video: Weekly AI Updates: Model Releases, Agent Harnesses, and Developer Tooling (August 2026)
Link:drumih
TurboFieldfare ist eine in Swift und Metal geschriebene Open-Source-Inference-Engine, die das 4-Bit-quantisierte Modell Gemma 4 26B-A4B-IT auf Apple M-Series Macs mit rund 2 GB Arbeitsspeicher ausführt. Da die Gewichte etwa 14 GB SSD-Speicher belegen, werden nur der gemeinsame Modellkern und der KV-Cache im RAM gehalten, während benötigte Experten pro Token direkt per Streaming von der SSD nachgeladen werden.
Aus Video: AI Weekly Updates: Open-Source Model Surge, Agent Harnesses, and Meta's AI Reality Check
Link:ricursive.com
Das KI-Forschungslabor Ricursive Intelligence entwickelt selbstverbessernde Systeme im Halbleiterdesign, um den Entwicklungszyklus zwischen KI-Modellen und Hardware zu schliessen.
Link:Orbital Labs, LLC
OrbStack von Orbital Labs ist eine schlanke Alternative zu Docker Desktop für macOS, die das Ausführen von Docker-Containern und vollwertigen Linux-Maschinen beschleunigen soll. Die native Swift-App zeichnet sich durch minimalen Ressourcenverbrauch und hohe Ausführungsgeschwindigkeit aus.
Link:osy
UTM ist eine quelloffene Virtualisierungslösung für macOS, die auf QEMU und Apples Virtualization Framework aufsetzt. Die Software ermöglicht den Betrieb von Windows, Linux und macOS auf Apple Silicon und Intel-Macs.
Link:tidesman.dev
Tidesman ist ein kostenloser, nativer MCP-Server für macOS auf Apple Silicon, der KI-Assistenten die Steuerung von Linux-Containern über Apples hauseigene Container-Engine ermöglicht. Anstatt Ausgaben des Kommandozeilen-Tools auszulesen, bindet Tidesman direkt Apples Swift-Client-Bibliothek ein und kommuniziert lokal über stdio.
Aus X-Post: Challenges and Security Implications of Model Context Protocol (MCP) Integration
Link:PocketAiHub
PocketAiHub hat eine inoffizielle Reihe von MLX-Konvertierungen des multimodalen Modells Qwen3.8-27B veröffentlicht. Durch 'Abliteration' wurde das antrainierte Verweigerungsverhalten (Refusals) modifiziert. Das Repository bietet Quantisierungen von 2-Bit AWQ bis BF16 speziell für Apple Silicon.
Aus X-Post: Qwen3.8-27B Abliterated Released for Apple Silicon via MLX
Link:orchard.andon.dev
Orchard ist eine native macOS-Anwendung zur grafischen Verwaltung von Apple Containers, virtuellen Linux-Maschinen und lokalen Kubernetes-Clustern. Das MIT-lizenzierte Tool bindet lokale KI-Laufzeiten wie MLX, Ollama oder LM Studio direkt an Container an und bietet isolierte Sandboxen für die sichere Ausführung von KI-Agenten.
Aus X-Post: Orchard: A Native macOS UI for Apple Containers
Link:Tw93
Mole vereint Festplattenbereinigung, App-Deinstallation, Systemwartung und Live-Hardware-Monitoring in einer nativen Mac-Anwendung. Begleitend dazu steht das kostenlose Open-Source-Kommandozeilenwerkzeug 'mo' für automatisierte und Agenten-gestützte Abläufe zur Verfügung.
Aus Video: Mole: Open-Source macOS Cleaner as a CleanMyMac Alternative
Repository:drumih/turbo-fieldfare
TurboFieldfare ist eine spezialisierte Swift- und Metal-Laufzeitumgebung, die das Sprachmodell Gemma 4 26B-A4B auf Apple-Silicon-Macs mit nur etwa 2 GB RAM ausführt. Statt das gesamte 14,3 GB große Modell im Arbeitsspeicher zu halten, verbleiben nur der 1,35 GB große Kern sowie der KV-Cache im RAM, während benötigte Experten-Layer dynamisch per SSD-Streaming nachgeladen werden.
6609SterneSwift
Aus Video: AI Weekly Updates: Open-Source Model Surge, Agent Harnesses, and Meta's AI Reality Check
Repository:PipeNetwork/kimi-k3-mlx
kimi-k3-mlx portiert Moonshots multimodales Kimi-K3-MoE-Modell (2,78 Billionen Parameter) auf Apples MLX-Framework. Da das Modell selbst im komprimierten Zustand zu groß für handelsübliche Apple-Silicon-Rechner ist, liefert das Projekt neben den Modell- und Vision-Wrappern einen Streaming-Konverter sowie Werkzeuge zum Pruning von Experten.
337SternePython
Aus Video: Trending GitHub Open-Source Projects: Developer Tools, AI Agents, and Self-Hosting
X-Post:Trevor Wood
Trevor Wood und das PocketAI Model Lab haben optimierte MLX-Versionen des Modells Qwen3.8-27B für Apple Silicon veröffentlicht. Bei diesen Varianten wurden die antrainierten Verweigerungsmechanismen („Abliteration“) entfernt, und sie stehen in Quantisierungen von 2-Bit bis BF16 zur Verfügung.
3198Lesezeichen199.030Aufrufe
VideoVideo:ManuAGI - AutoGPT Tutorials
Die wöchentliche Übersicht von ManuAGI stellt 20 quelloffene GitHub-Repositories vor. Die Bandbreite reicht von Self-Hosting-Lösungen und Entwickler-Tools über KI-Agenten-Infrastruktur bis hin zu lokalen Machine-Learning-Laufzeitumgebungen für Apple Silicon.
18 von 18 angezeigt
Haben Sie einen interessanten Artikel, ein Video oder einen Tweet, der in unsere Wissensbasis gehört? Schreiben Sie uns an office@webconsulting.at.
Dieser Inhalt wurde teilweise mithilfe von KI erstellt.
