Locally AI
Locally AI · Sonstiges
Locally AI ist ein Offline-KI-Assistent, der offene KI-Modelle vollständig auf deinem iPhone, iPad oder Mac ausführt. Es ist eine lokale KI-App für Mac und Mobilgeräte zugleich, ohne Cloud, ohne Anmeldung und ohne Datensammlung, sodass deine Chats auf dem Gerät bleiben, das du in der Hand hältst. Lade ein Modell einmal herunter und sprich dann überall damit, selbst ohne Empfang.
Über Locally AI
Was ist Locally AI
Locally AI ist ein KI-Assistent auf dem Gerät, gebaut für Apple-Hardware. Statt deine Prompts an einen Server zu schicken, lädt er offene Sprach- und Vision-Modelle direkt auf dein Gerät und führt sie dort aus. Das Ergebnis ist eine Chat-App, die im Flugmodus funktioniert und jede Unterhaltung auf deiner Maschine behält.
Dieser lokale Ansatz löst ein Problem über alle anderen hinaus: den privaten KI-Chat. Wenn nichts dein Gerät verlässt, gibt es nichts, das man durchsickern lassen, verkaufen oder gerichtlich herausverlangen könnte. Er bedeutet auch kein Abo und kein Konto, denn die App braucht kein Backend, um zu laufen.
Der Preis dafür ist die Hardware. Locally AI setzt auf Apple Silicon und das MLX-Framework, will also ein neueres iPhone, iPad oder Mac. Auf älteren Geräten laden die Modelle langsam oder laufen gar nicht. Außerdem musst du jedes Modell selbst herunterladen. Die größeren brauchen echten Speicherplatz. Nicht ideal, aber so sieht lokale KI derzeit aus.
Erste Schritte
- Installiere Locally AI aus dem App Store auf deinem iPhone, iPad oder Mac.
- Öffne den Modell-Browser und wähle ein Modell, das zu deinem Gerät passt; nimm bei Unsicherheit zuerst ein kleineres.
- Lade das Modell über WLAN herunter und warte, bis es fertig ist, bevor du chattest.
- Starte eine Unterhaltung per Tippen oder im Sprachmodus und passe dann den System-Prompt an, wenn du einen anderen Ton willst.
- Verbinde es optional mit Siri, Kurzbefehle oder dem Kontrollzentrum für den Zugriff mit einem Tipp.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von Locally AI.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- Datenschutzbewusste Menschen
- Vielreisende
- Studierende und Forschende
- Apple-Fans
Aufgaben
- Text entwerfen und umschreiben
- Fragen offline stellen
- Sprachgespräche
- Fragen zu Bildern
Szenarien
- Arbeit mit sensiblen Unterlagen
- Reisen und Pendeln
- Haushalte mit schlechter Verbindung
- Schnelle Nachschlagen im Siri-Stil
Wichtigste Funktionen
Vollständiger Offline-Betrieb
Der ganze Sinn von Locally AI ist, dass es ohne Netz läuft. Sobald ein Modell auf deinem Gerät ist, wird jeder Prompt und jede Antwort lokal verarbeitet. Keine Server im Spiel. Das macht die App dort verlässlich, wo Cloud-Assistenten scheitern, und es entfernt die übliche Verzögerung durch einen Server-Roundtrip.
Modellbibliothek auf dem Gerät
Die App unterstützt eine Reihe offener Modelle, mit Familien wie Llama, Gemma, SmolLM, DeepSeek, Qwen, Granite, Cogito und LFM. Du wählst, was installiert wird. Kleinere Modelle laufen schneller. Größere sind klüger, aber schwerer. Es ist ein echtes Auswahl-menü, kein festes Modell.
Lokaler Sprachmodus
Der Sprachmodus läuft ebenfalls komplett auf dem Gerät, sodass du ein gesprochenes Gespräch führen kannst, ohne dass Audio dein Telefon oder deinen Mac verlässt. Er reagiert in Echtzeit und spart die Upload- und Download-Verzögerung von Cloud-Sprachassistenten.
Unterstützung für Vision-Modelle
Locally AI erledigt Bildaufgaben neben Text. Vision-fähige Modelle lassen dich direkt Fragen zu einem Foto oder Screenshot stellen, und die Analyse passiert wie alles andere auf dem Gerät.
Siri- und Kurzbefehle-Integration
Du kannst den Assistenten mit "Hey, Locally AI" über Siri starten oder ihn in die App Kurzbefehle einbinden, um automatische Abläufe zu bauen. Kontrollzentrum, Sperrbildschirm und Aktionstaste geben dir ebenfalls Zugriff mit einem Tipp, ohne das App-Symbol zu suchen.
Angepasste System-Prompts
Ein anpassbarer System-Prompt lässt dich einstellen, wie sich der Assistent verhält. Kurze Antworten? Sag es. Ein wärmerer Ton oder eine bestimmte Rolle? Genauso. Dasselbe Modell kann je nach Aufgabe anders wirken.
Leistung mit Apple Silicon und MLX
Die App ist um Apple Silicon und MLX herum gebaut, Apples Framework für maschinelles Lernen. Dieses Paar nutzt den Unified Memory moderner Chips, sodass Modelle schnell laden und Antworten mit weit weniger Verbrauch zurückkommen, als du beim lokalen Ausführen eines großen Sprachmodells auf einem Handgerät erwarten würdest.
Vor- und Nachteile
Vorteile
- Vollständige Privatsphäre: Prompts, Antworten und Sprache verlassen nie dein Gerät.
- Kein Konto und kein Abo, also nichts zum Anmelden oder Kündigen.
- Funktioniert offline im Flugmodus, sobald ein Modell heruntergeladen ist.
- Bindet sich an Siri, Kurzbefehle und das Kontrollzentrum für schnellen Zugriff.
- Unterstützt eine breite Auswahl offener Modelle, auch Vision-fähige.
Nachteile
- Braucht neueres Apple Silicon, also laufen ältere iPhones, iPads und Macs schlecht oder gar nicht.
- Du musst Modelle selbst herunterladen, und größere fressen viel Speicher.
- Es gibt keine Android-, Windows- oder Web-Version, was Nutzer außerhalb Apples aussperrt.
- Lokale Modelle bleiben bei schwierigen Denkaufgaben meist hinter den größten Cloud-Modellen zurück.
Häufige Fragen
Es ist eine KI-Assistenten-App für iPhone, iPad und Mac, die offene Sprach- und Vision-Modelle direkt auf deinem Gerät ausführt. Und was ändert das? Nichts wird an einen Cloud-Server geschickt, also funktioniert sie offline und hält deine Chats privat.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu Locally AI.
Alternativen zu Locally AI
BinkBink
BinkBink · SonstigesBinkBink ist eine kostenlose Online-Spielplattform und ein KI-Spielmacher, mit dem jeder eine kurze Textbeschreibung in ein spielbares Browser-Spiel verwandeln kann. Sie springen in Hunderte von der Community erstellte Spiele. Oder Sie beschreiben Ihre eigene Idee, spielen sie in Sekunden und teilen sie dann mit Freunden. Sie wollen Ihr eigenes Spiel erstellen? Sie müssen nicht programmieren. Kein Einrichten einer Engine, kein Download, kein Aufwand.
Audiogen
Audiogen Inc. · SonstigesAudiogen ist ein KI-Musikgenerator des Unternehmens Audiogen Inc., eines kleinen Forschungsteams, das rund 2,5 Jahre damit verbrachte, ein eigenes generatives Musikmodell zu trainieren und eine Web-Oberfläche darum herum zu entwerfen. Statt eines einfachen Textfelds verwandelt dieses KI-Musik-Tool die Zeitleiste in eine anfängerfreundliche Generative Audio Workstation, kurz GAW, in der Inpainting, Verlängern, Remixen und Stem-Bearbeitung eher wie Malen auf einer Leinwand funktionieren. Das Produkt ist noch in der Beta, der Zugang läuft also über eine Warteliste oder eine Einladung. Bezahlpläne sind noch nicht veröffentlicht.
Aiml API
AIMLAPI OÜ · SonstigesAiml API ist eine einheitliche KI-Modell-API, die über 1000 Modelle von OpenAI, Google, Anthropic und anderen hinter einem einzigen Endpunkt und einer einzigen Rechnung bündelt. Sie schreiben Code gegen ein einziges OpenAI-kompatibles Schema und wechseln dann zwischen Chat-, Bild-, Video- und Audiomodellen, indem Sie eine Modellzeichenfolge ändern. Sie passt zu Entwicklern und kleinen Teams, die multimodalen Zugriff wollen, ohne ein Dutzend getrennte Anbieterkonten zu verwalten, und sie beseitigt den üblichen Rechnungsstress beim Testen mehrerer Anbieter. Ein Schlüssel deckt alles ab.