Lora
PeekabooLabs · Coding · Sonstiges
Lora ist ein Sprachmodell von PeekabooLabs, das direkt auf dem Handy läuft, mit 2.4B Parametern unter iOS und Android, und über ein Flutter-SDK eingebunden wird.
Über Lora
What Is Lora
Lora ist ein Sprachmodell, das auf dem Telefon selbst läuft, nicht auf einem Server. PeekabooLabs hat es für Mobilgeräte gebaut, und das Ganze wiegt rund 1.5GB bei 2.4 Milliarden Parametern. Sie schicken keine Anfrage an ein Rechenzentrum und warten auf die Antwort. Lora AI bleibt auf dem Gerät und antwortet dort.
Diese Entscheidung bestimmt alles Weitere. Weil nichts das Telefon verlässt, arbeitet Lora als lokales LLM für Mobilgeräte auch im Flugmodus und bei schwachem Netz weiter. Es behält außerdem auf dem Gerät, was der Nutzer eingibt, was für Apps mit privaten Notizen, Gesundheitsdaten oder Arbeitsdokumenten zählt. Der Anbieter ordnet die Qualität auf dem Niveau von GPT-4o-mini ein. Das ist ein Vergleich von Peekaboo Labs, kein unabhängiger Test.
Lora ist keine Verbraucher-App aus einem Store. Es ist ein Baustein für Entwickler. Das Unternehmen veröffentlicht ein Flutter-Paket namens lora_sdk, das Sie in eine iOS- oder Android-App einfügen, um Chat oder Textgenerierung zu ergänzen. Sie brauchen einen Lizenzschlüssel aus dem Peekaboo-Labs-Dashboard, und jeder Schlüssel hat eigene Nutzungsgrenzen. Die Firma entwickelt außerdem Carve, einen Dienst, der KI-Modelle für den Geräteeinsatz anpasst, sodass Lora zu einer größeren Bewegung gehört, die Modelle aufs Telefon holt statt hinter eine API. Wer einen KI-Assistenten offline als festen Teil der eigenen App will, findet genau darin den Reiz. Das gilt für jeden, der einen KI-Assistent offline braucht.
Der größte Haken ist die Reichweite. Ein 2.4B-Modell erreicht kein Spitzenmodell bei schwerem Schlussfolgern, langen Recherchen oder allem, was eine riesige Wissensbasis braucht. Es zielt auf schnelle, klar umrissene Aufgaben, die ein Handy gut löst. Braucht Ihre App tiefe Analyse, entfaltet Lora seine Stärke neben einem Cloud-Modell, nicht an dessen Stelle.
Getting Started
- Legen Sie ein Konto auf der Lora-Website an und öffnen Sie das Dashboard, um Ihren Lizenzschlüssel zu finden.
- Fügen Sie das Flutter-Paket lora_sdk zu Ihrer App hinzu und prüfen Sie die Plattformvoraussetzungen, also iOS 13 oder neuer und Android SDK 23 oder höher.
- Initialisieren Sie das SDK mit Ihrem Lizenzschlüssel und einem LLM-Anbieter, und lassen Sie das Modell auf das Gerät laden.
- Führen Sie den Aufwärmschritt aus, damit das Modell vor der ersten Anfrage bereit ist.
- Rufen Sie die Generierungsfunktion für eine einzelne Antwort auf, oder die Streaming-Variante, um den Text beim Entstehen anzuzeigen.
- Veröffentlichen Sie die App und verfolgen Sie Statusänderungen über das Statusobjekt des SDK.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von Lora.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- Entwickler mobiler Apps
- Datenschutzorientierte Teams
- Entwickler für schwache Netze
Aufgaben
- Chat und Assistenten offline
- Textgenerierung auf dem Gerät
- Lokale KI-Funktionen erproben
Szenarien
- Apps für Außendienst und Reisen
- Helfer in Gesundheit oder Finanzen
- Apps mit knappem Budget
Wichtigste Funktionen
Ein 2.4B-Modell, das auf dem Handy läuft
Der Kern von Lora ist ein Sprachmodell mit 2.4 Milliarden Parametern, bemessen für ein Telefon und nicht für ein Rechenzentrum. Es belegt rund 1.5GB und passt damit in Mittelklasse-Geräte, nicht nur in Spitzenmodelle. PeekabooLabs hat es auf Echtzeit-Inferenz auf mobiler Hardware abgestimmt, und genau das lässt einen Assistenten auf dem Gerät flott statt träge wirken.
Inferenz offline, ohne Umweg über die Cloud
Weil das Modell auf dem Gerät lebt, antwortet es weiter, wenn keine Verbindung besteht. Das deckt den Flugmodus ab, schlechten Empfang im Keller und Reisen in Gegenden ohne Daten. Das praktische Ergebnis ist ein Assistent, der nicht ausfällt, sobald das Netz wegbricht, und ein Aufbau, bei dem der Text des Nutzers das Telefon nie verlassen muss, um eine Antwort zu erhalten.
Flutter-SDK für iOS und Android
Das Unternehmen liefert ein Flutter-Paket, lora_sdk, das das Modell hinter wenigen Aufrufen kapselt. Sie initialisieren es mit einem Lizenzschlüssel, laden das Modell, wärmen es auf und erzeugen dann Text. Es fungiert als SDK für mobile Inferenz von KI für iOS und Android, sodass ein Team unter Flutter die Integration einmal schreibt statt zweimal.
Streaming und Einzelabruf
Lora bietet zwei Wege zur Ausgabe. Sie können eine vollständige Antwort in einem Aufruf anfordern oder die Streaming-Methode nutzen, um den Text Stück für Stück auszugeben, während das Modell ihn erzeugt. Streaming zählt in Chat-Oberflächen, wo der Nutzer die Wörter sofort erscheinen sehen will, statt auf die ganze Antwort zu warten.
Integrierter Status und Fortschritt
Das SDK stellt ein Statusobjekt bereit, das meldet, was das Modell tut, von nicht initialisiert über Laden und Aufwärmen bis bereit. Es zeigt auch den Fortschritt von Download und Aufwärmen sowie einen Fehlerzustand. Entwickler können das an die Oberfläche binden, um beim ersten Start einen Fortschrittsbalken zu zeigen, statt den Nutzer auf einen leeren Bildschirm blicken zu lassen.
Zugang per Lizenzschlüssel mit Nutzungsgrenzen
Lora läuft mit einem Lizenzschlüssel, der an Ihr Konto gebunden ist. Sie holen ihn nach der Anmeldung aus dem Dashboard, und jeder Schlüssel hat vom Anbieter gesetzte Nutzungsgrenzen. Dieses Modell lässt den Preis in der Hand von Peekaboo Labs, weshalb Sie die Bedingungen auf der Website prüfen sollten, bevor Sie Lora in ein Produkt einbauen, das Sie veröffentlichen.
Vor- und Nachteile
Vorteile
- Läuft offline, sodass Chat und Textwerkzeuge ohne Netz oder bei schwachem Signal verfügbar bleiben.
- Hält die Daten des Nutzers auf dem Gerät, was zu Apps mit privaten oder sensiblen Inhalten passt.
- Die 1.5GB und die 2.4B passen in Mittelklasse-Handys, nicht nur in die teuerste Hardware.
- Ein einziges Flutter-Paket deckt iOS und Android ab, was den Integrationsaufwand senkt, wenn Sie schon mit Flutter arbeiten.
- Streaming-Ausgabe und Fortschrittsanzeige erleichtern eine brauchbare Chat-Oberfläche.
Nachteile
- Die Qualität bleibt laut Anbieter selbst um GPT-4o-mini herum, weshalb schweres Schlussfolgern nicht sein Feld ist.
- Ohne Gratisplan und ohne öffentliche Preisliste müssen Sie Peekaboo Labs kontaktieren, um die Kosten zu erfahren.
- Es ist ein Entwickler-SDK, keine fertige App, sodass Nicht-Programmierer es nicht einfach installieren und nutzen können.
- Die Hauptseite leitet inzwischen zu Scoopie weiter, was den aktuellen Stand des Produkts und den Weg zum Support schwerer greifbar macht.
Häufige Fragen
Lora ist ein Sprachmodell auf dem Gerät von PeekabooLabs für iOS und Android. Es bringt ein Modell mit 2.4B Parametern, rund 1.5GB, das lokal auf dem Telefon statt in der Cloud läuft.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu Lora.
Alternativen zu Lora
Base Code
Base44 (Wix) · Coding · ProduktivitätBase Code ist eine geteilte Cloud-Entwicklungsumgebung von Base44. Das Team beschreibt Änderungen an einem bestehenden GitHub-Repository im Chat, prüft sie in der Vorschau und reicht sie als Pull Request ein.
Google EmbeddingGemma 2
Google DeepMind · Schreiben · Bilder · CodingGoogle EmbeddingGemma 2 ist ein offenes Modell mit 740 Millionen Parametern, das Text, Code, Bilder, Audio und Videobilder in Vektoren eines gemeinsamen 768-dimensionalen Raums umwandelt und auf Handys und Notebooks läuft.
GitGlow
GitGlow · Coding · ProduktivitätGitGlow ist ein Git-Client für den Desktop, der Ihren Code und die Änderungen Ihrer KI-Agenten in einer Review bündelt, damit Sie vor dem Ausliefern sehen, was die Maschine verlässt.