Lora
PeekabooLabs · Programmation · Autres
Lora est un modèle de langage de PeekabooLabs qui tourne directement sur le téléphone, avec 2.4B paramètres sous iOS et Android, et s'intègre via un SDK Flutter.
À propos de Lora
What Is Lora
Lora est un modèle de langage qui fonctionne sur le téléphone, pas sur un serveur. PeekabooLabs l'a conçu pour le mobile, et l'ensemble pèse environ 1.5GB pour 2.4 milliards de paramètres. Vous n'envoyez pas une requête à un centre de données en attendant la réponse. Lora AI reste sur l'appareil et répond sur place.
Ce choix entraîne tout le reste. Comme rien ne quitte le téléphone, Lora continue de répondre en mode avion et avec un réseau capricieux. Il conserve aussi sur l'appareil ce que l'utilisateur écrit, ce qui compte pour une app qui gère des notes privées, des données de santé ou des documents de travail. L'éditeur place sa qualité au niveau de GPT-4o-mini. C'est une comparaison de Peekaboo Labs, pas un test indépendant.
Lora n'est pas une app grand public à télécharger sur une boutique. C'est un composant pour développeurs. L'entreprise publie un paquet Flutter nommé lora_sdk, que vous intégrez dans une app iOS ou Android pour ajouter du chat ou de la génération de texte. Il faut une clé de licence issue du tableau de bord Peekaboo Labs, et chaque clé porte ses propres limites d'usage. La société développe aussi Carve, un service qui adapte des modèles d'IA à l'usage embarqué, donc ce LLM local pour mobile s'inscrit dans un mouvement plus large qui ramène les modèles sur le téléphone plutôt que derrière une API. Pour qui veut un assistant IA hors ligne au cœur de sa propre app, c'est là que se trouve l'intérêt.
La principale limite tient à la portée. Un modèle de 2.4B n'égale pas un modèle de pointe sur le raisonnement difficile, les longues recherches ou tout ce qui demande une immense base de connaissances. Il vise des tâches rapides et ciblées qu'un téléphone fait bien. Si votre app a besoin d'une analyse poussée, Lora donne le meilleur de lui-même à côté d'un modèle cloud, pas à sa place.
Getting Started
- Créez un compte sur le site de Lora et ouvrez le tableau de bord pour trouver votre clé de licence.
- Ajoutez le paquet Flutter lora_sdk à votre app et vérifiez les prérequis de plateforme, à savoir iOS 13 ou plus et Android SDK 23 ou plus.
- Initialisez le SDK avec votre clé de licence et un fournisseur de LLM, puis laissez le modèle se télécharger sur l'appareil.
- Lancez l'étape de préchauffage pour que le modèle soit prêt avant la première requête.
- Appelez la fonction de génération pour une réponse unique, ou la version en streaming pour afficher le texte au fur et à mesure.
- Publiez l'app et suivez les changements d'état via l'objet de statut du SDK.
Informations sur le produit
Aperçu des tarifs, des plateformes compatibles et des performances de Lora.
Idéal pour
Les utilisateurs, tâches et cas d'usage où cet outil convient le mieux.
Utilisateurs
- Développeurs d'apps mobiles
- Équipes attachées à la confidentialité
- Développeurs visant des réseaux instables
Tâches
- Chat et assistants hors ligne
- Génération de texte embarquée
- Prototyper des fonctions d'IA locale
Cas d'usage
- Apps de terrain et de voyage
- Aides en santé ou en finance
- Apps à budget serré
Fonctionnalités clés
Un modèle de 2.4B qui tourne sur le téléphone
Le cœur de Lora est un modèle de langage de 2.4 milliards de paramètres calibré pour tenir dans un téléphone, pas dans un centre de données. Il occupe environ 1.5GB, donc il entre dans les mobiles de milieu de gamme, pas seulement dans les modèles haut de gamme. PeekabooLabs l'a réglé pour l'inférence en temps réel sur du matériel mobile, et c'est ce qui rend un assistant embarqué fluide plutôt que poussif.
Inférence hors ligne, sans aller-retour vers le cloud
Comme le modèle vit sur l'appareil, il continue de répondre sans connexion. Cela couvre le mode avion, le mauvais réseau dans un sous-sol et les voyages dans des zones sans données. Le résultat concret est un assistant qui ne lâche pas dès que le réseau tombe, et un montage où le texte de l'utilisateur n'a jamais besoin de quitter le téléphone pour obtenir une réponse.
SDK Flutter pour iOS et Android
L'entreprise diffuse un paquet Flutter, lora_sdk, qui enveloppe le modèle derrière quelques appels. Vous l'initialisez avec une clé de licence, téléchargez le modèle, le préchauffez, puis générez du texte. Il joue le rôle de SDK d'inférence mobile d'IA pour iOS et Android, donc une équipe qui travaille sous Flutter écrit l'intégration une fois, pas deux.
Génération en streaming et en un seul appel
Lora offre deux façons d'obtenir une réponse. Vous pouvez demander une réponse complète en un appel, ou utiliser la méthode en streaming pour afficher le texte morceau par morceau à mesure que le modèle le produit. Le streaming compte dans les interfaces de chat, où l'utilisateur s'attend à voir les mots apparaître tout de suite plutôt qu'à attendre la réponse entière.
État et progression intégrés
Le SDK expose un objet d'état qui indique ce que fait le modèle, de non initialisé à téléchargement, préchauffage et prêt. Il affiche aussi la progression du téléchargement et du préchauffage, plus un état d'erreur. Les développeurs peuvent relier cela à l'interface pour montrer une barre de progression au premier lancement plutôt que de laisser l'utilisateur devant un écran vide.
Accès par clé de licence avec limites d'usage
Lora fonctionne avec une clé de licence liée à votre compte. Vous la récupérez dans le tableau de bord après inscription, et chaque clé comporte des limites d'usage fixées par l'éditeur. Ce modèle laisse le prix entre les mains de Peekaboo Labs, donc mieux vaut confirmer les conditions sur le site avant d'intégrer Lora à un produit que vous publierez.
Avantages et inconvénients
Avantages
- Fonctionne hors ligne, donc le chat et les outils de texte restent actifs sans réseau ou avec un signal faible.
- Garde les données de l'utilisateur sur l'appareil, ce qui convient aux apps à contenu privé ou sensible.
- Les 1.5GB et les 2.4B tiennent dans des mobiles de milieu de gamme, pas seulement dans le matériel le plus cher.
- Un seul paquet Flutter couvre iOS et Android, ce qui réduit le travail d'intégration si vous êtes déjà sous Flutter.
- La sortie en streaming et le suivi de progression facilitent la mise en place d'une interface de chat correcte.
Inconvénients
- La qualité plafonne autour de GPT-4o-mini selon l'éditeur lui-même, donc le raisonnement lourd n'est pas son terrain.
- Sans offre gratuite ni grille tarifaire publique, il faut contacter Peekaboo Labs pour connaître le prix.
- C'est un SDK pour développeurs, pas une app prête à l'emploi, donc quelqu'un qui ne code pas ne peut pas l'installer et l'utiliser tel quel.
- Le site parent redirige désormais vers Scoopie, ce qui complique la vérification de l'état actuel du produit et du canal de support.
Questions fréquentes
Lora est un modèle de langage embarqué de PeekabooLabs pour iOS et Android. Il embarque un modèle de 2.4B paramètres, environ 1.5GB, qui tourne en local sur le téléphone plutôt que dans le cloud.
Contenus associés
Découvrez des outils, des compétences et des articles liés à Lora.
Alternatives à Lora
Base Code
Base44 (Wix) · Programmation · ProductivitéBase Code est un environnement de développement cloud partagé signé Base44. Votre équipe décrit des modifications sur un dépôt GitHub dans le chat, les vérifie en aperçu et les renvoie sous forme de pull requests.
Google EmbeddingGemma 2
Google DeepMind · Rédaction · Image · ProgrammationGoogle EmbeddingGemma 2 est un modèle ouvert de 740 millions de paramètres qui transforme texte, code, images, audio et images vidéo en vecteurs d'un même espace de 768 dimensions, sur un téléphone ou un ordinateur portable.
GitGlow
GitGlow · Programmation · ProductivitéGitGlow est un client Git de bureau qui place votre code et les modifications de vos agents IA dans une même revue, pour savoir ce qui quitte votre machine avant de livrer.