Locally AI
Locally AI · Sonstiges
Locally AI ist ein Offline-KI-Assistent, der offene KI-Modelle vollständig auf deinem iPhone, iPad oder Mac ausführt. Es ist eine lokale KI-App für Mac und Mobilgeräte zugleich, ohne Cloud, ohne Anmeldung und ohne Datensammlung, sodass deine Chats auf dem Gerät bleiben, das du in der Hand hältst. Lade ein Modell einmal herunter und sprich dann überall damit, selbst ohne Empfang.
Über Locally AI
Was ist Locally AI
Locally AI ist ein KI-Assistent auf dem Gerät, gebaut für Apple-Hardware. Statt deine Prompts an einen Server zu schicken, lädt er offene Sprach- und Vision-Modelle direkt auf dein Gerät und führt sie dort aus. Das Ergebnis ist eine Chat-App, die im Flugmodus funktioniert und jede Unterhaltung auf deiner Maschine behält.
Dieser lokale Ansatz löst ein Problem über alle anderen hinaus: den privaten KI-Chat. Wenn nichts dein Gerät verlässt, gibt es nichts, das man durchsickern lassen, verkaufen oder gerichtlich herausverlangen könnte. Er bedeutet auch kein Abo und kein Konto, denn die App braucht kein Backend, um zu laufen.
Der Preis dafür ist die Hardware. Locally AI setzt auf Apple Silicon und das MLX-Framework, will also ein neueres iPhone, iPad oder Mac. Auf älteren Geräten laden die Modelle langsam oder laufen gar nicht. Außerdem musst du jedes Modell selbst herunterladen. Die größeren brauchen echten Speicherplatz. Nicht ideal, aber so sieht lokale KI derzeit aus.
Erste Schritte
- Installiere Locally AI aus dem App Store auf deinem iPhone, iPad oder Mac.
- Öffne den Modell-Browser und wähle ein Modell, das zu deinem Gerät passt; nimm bei Unsicherheit zuerst ein kleineres.
- Lade das Modell über WLAN herunter und warte, bis es fertig ist, bevor du chattest.
- Starte eine Unterhaltung per Tippen oder im Sprachmodus und passe dann den System-Prompt an, wenn du einen anderen Ton willst.
- Verbinde es optional mit Siri, Kurzbefehle oder dem Kontrollzentrum für den Zugriff mit einem Tipp.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von Locally AI.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- Datenschutzbewusste Menschen
- Vielreisende
- Studierende und Forschende
- Apple-Fans
Aufgaben
- Text entwerfen und umschreiben
- Fragen offline stellen
- Sprachgespräche
- Fragen zu Bildern
Szenarien
- Arbeit mit sensiblen Unterlagen
- Reisen und Pendeln
- Haushalte mit schlechter Verbindung
- Schnelle Nachschlagen im Siri-Stil
Wichtigste Funktionen
Vollständiger Offline-Betrieb
Der ganze Sinn von Locally AI ist, dass es ohne Netz läuft. Sobald ein Modell auf deinem Gerät ist, wird jeder Prompt und jede Antwort lokal verarbeitet. Keine Server im Spiel. Das macht die App dort verlässlich, wo Cloud-Assistenten scheitern, und es entfernt die übliche Verzögerung durch einen Server-Roundtrip.
Modellbibliothek auf dem Gerät
Die App unterstützt eine Reihe offener Modelle, mit Familien wie Llama, Gemma, SmolLM, DeepSeek, Qwen, Granite, Cogito und LFM. Du wählst, was installiert wird. Kleinere Modelle laufen schneller. Größere sind klüger, aber schwerer. Es ist ein echtes Auswahl-menü, kein festes Modell.
Lokaler Sprachmodus
Der Sprachmodus läuft ebenfalls komplett auf dem Gerät, sodass du ein gesprochenes Gespräch führen kannst, ohne dass Audio dein Telefon oder deinen Mac verlässt. Er reagiert in Echtzeit und spart die Upload- und Download-Verzögerung von Cloud-Sprachassistenten.
Unterstützung für Vision-Modelle
Locally AI erledigt Bildaufgaben neben Text. Vision-fähige Modelle lassen dich direkt Fragen zu einem Foto oder Screenshot stellen, und die Analyse passiert wie alles andere auf dem Gerät.
Siri- und Kurzbefehle-Integration
Du kannst den Assistenten mit "Hey, Locally AI" über Siri starten oder ihn in die App Kurzbefehle einbinden, um automatische Abläufe zu bauen. Kontrollzentrum, Sperrbildschirm und Aktionstaste geben dir ebenfalls Zugriff mit einem Tipp, ohne das App-Symbol zu suchen.
Angepasste System-Prompts
Ein anpassbarer System-Prompt lässt dich einstellen, wie sich der Assistent verhält. Kurze Antworten? Sag es. Ein wärmerer Ton oder eine bestimmte Rolle? Genauso. Dasselbe Modell kann je nach Aufgabe anders wirken.
Leistung mit Apple Silicon und MLX
Die App ist um Apple Silicon und MLX herum gebaut, Apples Framework für maschinelles Lernen. Dieses Paar nutzt den Unified Memory moderner Chips, sodass Modelle schnell laden und Antworten mit weit weniger Verbrauch zurückkommen, als du beim lokalen Ausführen eines großen Sprachmodells auf einem Handgerät erwarten würdest.
Vor- und Nachteile
Vorteile
- Vollständige Privatsphäre: Prompts, Antworten und Sprache verlassen nie dein Gerät.
- Kein Konto und kein Abo, also nichts zum Anmelden oder Kündigen.
- Funktioniert offline im Flugmodus, sobald ein Modell heruntergeladen ist.
- Bindet sich an Siri, Kurzbefehle und das Kontrollzentrum für schnellen Zugriff.
- Unterstützt eine breite Auswahl offener Modelle, auch Vision-fähige.
Nachteile
- Braucht neueres Apple Silicon, also laufen ältere iPhones, iPads und Macs schlecht oder gar nicht.
- Du musst Modelle selbst herunterladen, und größere fressen viel Speicher.
- Es gibt keine Android-, Windows- oder Web-Version, was Nutzer außerhalb Apples aussperrt.
- Lokale Modelle bleiben bei schwierigen Denkaufgaben meist hinter den größten Cloud-Modellen zurück.
Häufige Fragen
Es ist eine KI-Assistenten-App für iPhone, iPad und Mac, die offene Sprach- und Vision-Modelle direkt auf deinem Gerät ausführt. Und was ändert das? Nichts wird an einen Cloud-Server geschickt, also funktioniert sie offline und hält deine Chats privat.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu Locally AI.
Alternativen zu Locally AI
Odyssey 3
Odyssey · SonstigesOdyssey-3 ist Odysseys fundamentales Weltmodell. Es simuliert Physik in Echtzeit, macht aus einer Eingabe eine interaktive Umgebung und lässt sich an Roboter, Autos und Spiele anpassen.
JarvisCore
Prescott Data · Coding · Produktivität · SonstigesJarvisCore ist eine Open-Source-Laufzeit in Python, in der KI-Agenten als gleichrangige Peers in einem Mesh arbeiten, Aufgaben aus einem gemeinsamen Register übernehmen und externe Dienste über einen Zero-Trust-Broker erreichen.
Clef
Cloudflare · Business · SonstigesClef ist Cloudflares Open-Source-Entscheidungsmodell für Workers AI. Es liefert kalibrierte Wahrscheinlichkeiten für typisierte Fragen statt Text, damit Agenten schnell klassifizieren, routen und handeln.