LLMWare.ai

Model HQ はコードを書かずに多段のAIワークフローを組める。モデル、データソース、ロジックをつないで再現可能なプロセスにする。単純な要約から、文書を読み、項目を抽出し、結果を振り分ける多段の流れまで対応する。これで製品はチャットボットの域を超え、業務を端から端まで処理する。同社はこのビルダーを、Pythonに触れたことのない人にAI自動化を開く鍵だと位置づけている。

基盤には250以上の小型言語モデルのカタログが入り、端末のGPUとNPUで動くよう量子化された形式で提供される。関数呼び出しと分類を担う SLIM（Structured Language Instruction Models）、RAGの質疑応答向けに調整した DRAGON、素早い試作に向く BLING がそろう。OpenAI、Anthropic、Google の主要クラウドモデルにも対応し、ローカルとクラウドを場面ごとに使い分けられる。

Model HQ には検索拡張生成のパイプラインが組み込まれている。オープンソースの llmware フレームワークの背後にあるのと同じ技術だ。PDF、Word、表計算のフォルダを指定すると、中身を解析し、分割し、索引を付けて、その文脈で質問に答える。同社はこれを複数のベクトルデータベースにつないでいる。FAISS、Milvus、Pinecone、Qdrant、Postgres（PG Vector）、Redis、Chroma などで、すでに使っているチームにも合わせやすい。

クライアントエージェントは、現代のノートPCがすでに備える演算回路を使うように作られている。CPU、GPU、NPUで動き、Intel、AMD、Apple、NVIDIA、Qualcomm Snapdragon のチップ向けに最適化されている。同社は、アプリの平均ダウンロードが約10秒、複数モデルの端末への取り込みが30分未満だとしている。最新のAI PCなら32Bパラメータまでのモデルが動くので、サーバーなしでも実用的な能力が得られる。

推論は自社ハードウェアで動くので、トークン単位の課金も、従量制のAPI請求もない。同社はAI PCでの1トークンあたりの想定増分コストを$0としている。ほとんどのワークフローはネット接続なしで動く。これは外勤チーム、セキュリティ施設、外部サービスの稼働に頼りたくない人にとって重要だ。データは既定で自社環境にとどまる。

Model HQ は3か所での運用を想定している。AI PC、機密データのバッチ推論とRAGのためのデータセンター、そして大規模で時間に厳しい処理のためのプライベートクラウドだ。3つは組み合わせてつなげられ、ノートPCのエージェントが必要なときに中央の配備から大きなモデルを引く。企業はAIエージェントアプリを作り、従業員の端末に配れる。

基盤には規制業種の買い手が求める管理機能がそろう。AIの説明可能性、個人情報のフィルタリング、有害性と偏りの監視、幻覚の検出だ。企業向け配備では、異なるハードウェアをまたぐ監視、更新、拡張が加わる。端末での実行と合わせて、コンプライアンスチームが「データはどこへ行き、モデルは何を見たか」に答えられるようになる。