Lora
PeekabooLabs · Programação · Outros
Lora é um modelo de linguagem da PeekabooLabs que roda no próprio celular, com 2.4B parâmetros no iOS e no Android, e chega por um SDK para Flutter.
Sobre Lora
What Is Lora
Lora é um modelo de linguagem que funciona no telefone, não em um servidor. A PeekabooLabs fez o projeto pensando no celular, e o conjunto pesa cerca de 1.5GB com 2.4 bilhões de parâmetros. Você não envia uma mensagem para um data center e espera a resposta. O Lora AI fica no aparelho e responde ali mesmo.
Essa escolha define todo o resto. Como nada sai do telefone, o Lora segue respondendo no modo avião e com sinal fraco. Ele também mantém no aparelho o que o usuário escreve, o que importa se o app lida com anotações privadas, dados de saúde ou documentos de trabalho. O fabricante coloca a qualidade no mesmo patamar do GPT-4o-mini. É uma comparação da Peekaboo Labs, não um teste independente.
O Lora não é um app de consumo para baixar de uma loja. É um componente para desenvolvedores. A empresa publica um pacote Flutter chamado lora_sdk, e você o insere em um app iOS ou Android para adicionar chat ou geração de texto. É preciso uma chave de licença do painel da Peekaboo Labs, e cada chave tem seus próprios limites de uso. A companhia também desenvolve o Carve, um serviço que adapta modelos de IA para uso no aparelho, então esse LLM local para celular faz parte de um movimento maior de levar os modelos para o telefone em vez de deixá-los atrás de uma API. Para quem quer um assistente de IA offline dentro do próprio app, é aí que mora o atrativo.
O ponto fraco é o alcance. Um modelo de 2.4B não iguala um modelo de ponta em raciocínio difícil, pesquisas longas ou qualquer coisa que exija uma base de conhecimento enorme. Ele mira tarefas rápidas e específicas que um celular resolve bem. Se o seu app precisa de análise profunda, o Lora rende mais ao lado de um modelo na nuvem, não no lugar dele.
Getting Started
- Crie uma conta no site do Lora e abra o painel para encontrar sua chave de licença.
- Adicione o pacote Flutter lora_sdk ao seu app e confirme os requisitos de plataforma, que são iOS 13 ou superior e Android SDK 23 ou superior.
- Inicialize o SDK com sua chave de licença e um provedor de LLM, e deixe o modelo baixar no aparelho.
- Rode a etapa de aquecimento para o modelo ficar pronto antes da primeira requisição.
- Chame a função de geração para uma resposta única, ou a versão em streaming para mostrar o texto conforme ele aparece.
- Publique o app e acompanhe as mudanças de estado pelo objeto de status do SDK.
Informações do produto
Uma visão rápida dos preços, das plataformas compatíveis e do desempenho de Lora.
Ideal para
Os usuários, tarefas e cenários em que esta ferramenta se encaixa melhor.
Usuários
- Desenvolvedores de apps móveis
- Equipes focadas em privacidade
- Desenvolvedores que publicam para redes instáveis
Tarefas
- Chat e assistentes offline
- Geração de texto no aparelho
- Prototipar recursos de IA local
Cenários
- Apps de campo e de viagem
- Auxílios de saúde ou finanças
- Apps com custos apertados
Principais recursos
Um modelo de 2.4B que roda no celular
O centro do Lora é um modelo de linguagem de 2.4 bilhões de parâmetros dimensionado para caber num telefone, não num data center. Ele ocupa cerca de 1.5GB, então entra em celulares intermediários, não só nos topo de linha. A PeekabooLabs o ajustou para inferência em tempo real em hardware móvel, e é isso que faz um assistente no aparelho parecer ágil em vez de lento.
Inferência offline, sem ida e volta à nuvem
Como o modelo vive no aparelho, ele segue respondendo quando não há conexão. Isso cobre o modo avião, o sinal ruim num subsolo e viagens a lugares sem dados. O resultado prático é um assistente que não falha assim que a rede cai, e uma montagem em que o texto do usuário nunca precisa sair do telefone para receber resposta.
SDK Flutter para iOS e Android
A empresa distribui um pacote Flutter, o lora_sdk, que embrulha o modelo atrás de poucas chamadas. Você o inicializa com uma chave de licença, baixa o modelo, aquece e gera texto. Ele funciona como um SDK de inferência móvel de IA para iOS e Android, então uma equipe que trabalha com Flutter escreve a integração uma vez, não duas.
Geração em streaming e de uma vez só
O Lora oferece dois jeitos de obter saída. Você pode pedir uma resposta completa numa chamada, ou usar o método em streaming para imprimir o texto pedaço por pedaço conforme o modelo produz. O streaming importa nas interfaces de chat, onde o usuário espera ver as palavras surgirem na hora em vez de aguardar a resposta inteira.
Estado e progresso integrados
O SDK expõe um objeto de estado que informa o que o modelo está fazendo, de não inicializado a baixando, aquecendo e pronto. Ele também mostra o progresso de download e de aquecimento, além de um estado de erro. Os desenvolvedores podem ligar isso à interface para exibir uma barra de progresso na primeira abertura em vez de deixar o usuário diante de uma tela vazia.
Acesso por chave de licença com limites de uso
O Lora funciona com uma chave de licença ligada à sua conta. Você a pega no painel depois de se cadastrar, e cada chave traz limites de uso definidos pelo fabricante. Esse modelo deixa o preço nas mãos da Peekaboo Labs, então vale confirmar as condições no site antes de colocar o Lora num produto que você vai publicar.
Prós e contras
Prós
- Funciona offline, então o chat e as ferramentas de texto seguem ativos sem rede ou com sinal fraco.
- Mantém os dados do usuário no aparelho, o que serve a apps com conteúdo privado ou sensível.
- Os 1.5GB e os 2.4B cabem em celulares intermediários, não só no hardware mais caro.
- Um único pacote Flutter cobre iOS e Android, o que reduz o trabalho de integração se você já usa Flutter.
- A saída em streaming e o acompanhamento de progresso facilitam montar uma interface de chat decente.
Contras
- A qualidade fica em torno do GPT-4o-mini segundo o próprio fabricante, então raciocínio pesado não é o forte.
- Sem plano gratuito nem tabela de preços pública, então é preciso contatar a Peekaboo Labs para saber quanto custa.
- É um SDK para desenvolvedores, não um app pronto, então quem não programa não consegue instalar e usar direto.
- O site principal agora redireciona para o Scoopie, o que dificulta precisar o estado atual do produto e o caminho de suporte.
Perguntas frequentes
O Lora é um modelo de linguagem no dispositivo da PeekabooLabs para iOS e Android. Ele traz um modelo de 2.4B parâmetros, cerca de 1.5GB, que roda localmente no telefone em vez de na nuvem.
Conteúdo relacionado
Explore ferramentas, skills e artigos relacionados a Lora.
Alternativas a Lora
Udon
Udon · Programação · ProdutividadeO Udon transforma um Mac com Apple Silicon em servidor doméstico gerenciado pelo navegador, com contêineres, arquivos compartilhados e um administrador de sistemas com IA opcional.
offstage
offstage cloud · Programação · ProdutividadeO offstage entrega um Mac de verdade para agentes de IA e jobs de CI: uma conta macOS 27 em Apple silicon, controlada por API e cobrada por segundo.
BotBus
Chengdu Tuyang Tusen Technology Co., Ltd. · Programação · ProdutividadeO BotBus leva os agentes de programação com IA do seu computador para o celular e o relógio: você aprova comandos, inicia tarefas e lê resultados sem voltar para a mesa.