Lora

Lora

PeekabooLabs · コーディング · その他

LoraはPeekabooLabsのオンデバイス言語モデル。2.4BパラメータのモデルをiOSとAndroidの端末上でローカルに動かし、Flutter SDKとして提供される。

Lora の画面プレビュー

Lora について

What Is Lora

Loraはスマホ自体で動く言語モデルだ。PeekabooLabsはサーバーではなくモバイル向けに作り、モデル全体は約1.5GB、パラメータ数は24億。プロンプトをデータセンターへ送って返答を待つ、という使い方ではない。Lora AIは端末の中にいて、その場で答える。

この設計が他のすべてを決めている。端末の外に何も出ないため、Loraは機内モードでも電波の弱い場所でも動き続ける。利用者が入力した内容も端末に残る。私的なメモや健康情報、仕事の書類を扱うアプリでは、この点が効いてくる。ベンダーは品質をGPT-4o-miniと同水準と位置づけるが、これはPeekaboo Labs自身の比較であり、第三者による検証ではない。

Loraはストアからダウンロードする消費者向けアプリではない。開発者向けの部品だ。同社はLora SDKというFlutterパッケージ、lora_sdkを公開しており、iOSやAndroidのアプリに組み込むとチャットやテキスト生成を足せる。実行にはPeekaboo Labsのダッシュボードで発行するライセンスキーが要り、キーごとに利用上限が設定される。同社はさらに、AIモデルを端末向けに調整するCarveというサービスも手がける。Lora PeekabooLabsのこのスマホ向けローカルLLMは、モデルをAPIの裏側ではなくスマホへ載せる流れの一部にある。自社アプリにオフラインAIアシスタントを組み込みたいチームにとって、そこが魅力になる。

最大の難点は守備範囲だ。2.4Bのモデルは、難しい推論や長い調査、巨大な知識ベースが要る作業で先端モデルには及ばない。狙いは、スマホが得意とする素早く的を絞った処理にある。深い分析が要るアプリなら、Loraはクラウドモデルの代わりではなく、隣に置く形が向く。

Getting Started

  1. Loraの公式サイトでアカウントを作り、ダッシュボードを開いてライセンスキーを確認する。
  2. Flutterパッケージlora_sdkをアプリに追加し、プラットフォーム要件(iOS 13以降、Android SDK 23以上)を満たすことを確かめる。
  3. ライセンスキーとLLMプロバイダーを指定してSDKを初期化し、モデルを端末にダウンロードさせる。
  4. ウォームアップを実行し、最初のリクエストの前にモデルを準備しておく。
  5. 単発の返答なら生成関数を、文字が順に出る形ならストリーミング版を呼び出す。
  6. アプリを配信し、SDKのステータスオブジェクトで状態の変化を追う。

AIツール情報

Loraの料金、対応プラットフォーム、性能を簡単に確認できます。

無料プランいいえ
有料プランCustom, based on license
プラットフォームiOS, Android
開発元PeekabooLabs
カテゴリコーディング · その他
リリース日Feb 2025
最終更新Feb 2025
サイト訪問数N/A
サイト世界ランキングN/A
API提供状況いいえ

こんな人におすすめ

このツールが最も力を発揮するユーザー、タスク、シーン。

ユーザー

  • モバイルアプリ開発者:Flutter SDKを使えば、サーバーを立てずにiOSやAndroidのプロジェクトへローカルなテキスト生成を組み込める。
  • プライバシーを重視するプロダクトチーム:プロンプトと返答が端末に残るため、個人情報や機密を扱うアプリに合う。
  • 電波の弱い環境向けに配信する開発者:モデルはオフラインで動くので、チャットやテキストツールが止まらない。

タスク

  • オフラインのチャットとアシスタント:機内モードや弱い電波でも、スマホ上で返答を生成する。
  • 端末上のテキスト生成:短い文章の下書き、要約、書き直しを、クラウドを呼ばずローカルで済ませる。
  • ローカルAI機能の試作:Flutterアプリで端末上のモデルを試し、重い基盤に投資する前に見極める。

シーン

  • 現場や出張向けのアプリ:安定した回線のない場所でも動き続けるアシスタントを利用者に渡せる。
  • 健康や金融の補助ツール:機微な入力を遠隔サーバーへ回さず、端末に留める。
  • コストを抑えたいアプリ:定型のテキスト処理を端末へ移し、クラウドへのリクエスト単価を下げる。

主な機能

スマホで動く2.4Bモデル

Loraの中核は24億パラメータの言語モデルで、データセンターではなくスマホに収まる大きさに設計されている。占有は約1.5GB。ミドルクラスの端末でも載る。PeekabooLabsはモバイルハードウェアでのリアルタイム推論に合わせて調整しており、端末上のアシスタントがもたつかず軽快に感じられるのはそのためだ。

クラウド往復のないオフライン推論

モデルが端末の中にあるので、接続がなくても答え続ける。機内モード、地下での弱い電波、データの届かない土地への移動までカバーする。実際の効果はこうだ。回線が切れた瞬間にアシスタントが止まることはなく、利用者の文章は返答を得るためにスマホの外へ出る必要がない。

iOSとAndroid向けのFlutter SDK

同社が配るFlutterパッケージlora_sdkは、モデルをわずかな呼び出しの裏に包む。ライセンスキーで初期化し、モデルをダウンロードし、ウォームアップしてからテキストを生成する。iOSとAndroidのオンデバイスAIを支えるモバイル推論SDKであり、Flutterで作るチームは統合を一度書けば二度書かずに済む。

ストリーミングと単発生成

Loraは出力の取り方を二通り用意する。1回の呼び出しで完全な答えを求める方法と、ストリーミング方式でモデルが生み出すそばから文字を刻んで出す方法だ。ストリーミングはチャット画面で効く。利用者は返答全体を待つのではなく、言葉がすぐ現れることを期待する。

状態と進捗の追跡を内蔵

SDKは、モデルが何をしているかを伝えるステータスオブジェクトを公開する。未初期化からダウンロード中、ウォームアップ中、準備完了までを報告する。ダウンロードとウォームアップの進捗、エラー状態も出す。これを画面に繋げば、初回起動で空白のまま待たせる代わりに進捗バーを表示できる。

ライセンスキーによる利用と上限

Loraはアカウントに紐づくライセンスキーで動く。登録後にダッシュボードから受け取り、キーごとにベンダーが定めた利用上限が付く。この仕組みでは価格の決定権がPeekaboo Labsにある。リリースする製品にLoraを組み込む前に、公式サイトで条件を確かめておきたい。

メリットとデメリット

メリット

  • オフラインで動くため、接続がないときも電波が弱いときもチャットとテキストツールが使える。
  • 利用者の入力を端末に留めるので、私的・機密の内容を扱うアプリに合う。
  • 1.5GBと2.4Bという規模はミドルクラスのスマホに収まり、高価な機種だけに限らない。
  • 1つのFlutterパッケージでiOSとAndroidをまかなえるため、すでにFlutterを使うチームは統合作業を減らせる。
  • ストリーミング出力と進捗追跡があるので、まともなチャット画面を組みやすい。

デメリット

  • 品質はベンダー自身の説明でもGPT-4o-mini前後にとどまり、重い推論には向かない。
  • 無料プランも公開価格表もないため、費用を知るにはPeekaboo Labsへ問い合わせるしかない。
  • 開発者向けSDKであって完成したアプリではない。コードを書けない人は導入してすぐ使うわけにはいかない。
  • 親サイトは現在Scoopieへリダイレクトされ、製品の現状とサポート窓口が分かりにくくなっている。

よくある質問

LoraはPeekabooLabsによるiOSとAndroid向けのオンデバイス言語モデルだ。約1.5GBの2.4Bモデルを積み、クラウドではなくスマホ上でローカルに動く。