Llama MacOS Desktop Controller

Der Llama MacOS Desktop Controller ist eine Desktop-Anwendung, die auf Ihrem eigenen Rechner läuft und Sie macOS in natürlicher Sprache steuern lässt. Sie tippen oder sprechen eine Anfrage wie „App öffnen" oder „Fenster anordnen", und das Tool lässt ein lokales Llama-Modell den Python-Code schreiben, der die Aktion ausführt. Ein React-Frontend nimmt die Eingabe entgegen, und ein Flask-Backend spricht mit LlamaStack, das die Code-Erzeugung übernimmt.

Das Projekt erschien auf GitHub als Demo für LlamaStack, Metas offene Plattform zum Ausführen von Llama-Modellen. Es richtet sich an Entwickler und Tüftler, die sehen wollen, wie weit ein kleines lokales Modell alltägliche Anweisungen in echte Systemaufrufe übersetzt. Weil alles auf der Maschine läuft, gibt es keine Runde in die Cloud und kein Konto, das Sie anlegen müssten.

Der Haken: Es ist eine Demo, kein fertiges Produkt. Sie läuft nur unter macOS, verlangt Python, Node.js, Ollama und einen laufenden LlamaStack-Container, bevor sie startet, und ihre Sicherheitsprüfungen sind dünn, sodass eine fehlerhafte Codezeile das ganze System treffen kann.

Getting Started

1. Installieren Sie die Voraussetzungen: Node.js 16 oder neuer mit npm, Python 3.8 oder neuer mit pip und Ollama, und laden Sie das Modell Llama 3.2 3B Instruct herunter.
2. Starten Sie LlamaStack auf Port 5001 mit Docker und richten Sie es auf Ihren lokalen Ollama-Server.
3. Installieren Sie im Backend-Ordner die Python-Abhängigkeiten und starten Sie server.py, damit die Flask-API auf Port 5066 lauscht.
4. Führen Sie im Projektstamm npm install und npm run dev aus, um das React-Frontend auf Port 5173 zu starten.
5. Öffnen Sie den Browser unter localhost:5173, prüfen Sie, ob die Statusanzeige grün wird, und tippen oder diktieren Sie einen Befehl, um den erzeugten Code in Aktion zu sehen.