LLMWare.ai

Model HQ 讓你不用寫程式就能組出多步驟的 AI 工作流。你把模型、資料來源與邏輯串成可重複的流程，從單純的摘要，到讀取文件、擷取欄位、再分派結果的多階段流程都行。這讓產品不只是聊天機器人，而能處理完整的業務任務。該公司把這個建構器定位成關鍵一步：讓沒碰過 Python 的人也能用 AI 自動化。

平台內建 250 多個小型語言模型的目錄，以量化格式打包，能在裝置的 GPU 與 NPU 上執行。裡面有 SLIM（Structured Language Instruction Models），負責函式呼叫與分類；有針對 RAG 問答調校的 DRAGON 系列；也有適合快速做原型的 BLING 系列。它同時支援 OpenAI、Anthropic 與 Google 的主要雲端模型，該用本地就用本地、該用雲端就用雲端。

Model HQ 內建檢索增強生成的流程，也就是開源框架 llmware 背後的同一套技術。你指向一個裝滿 PDF、Word 或試算表的資料夾，它會剖析、切塊並建立索引，之後再依這些內容回答問題。該公司把它接到多種向量資料庫，包括 FAISS、Milvus、Pinecone、Qdrant、Postgres（PG Vector）、Redis 與 Chroma，方便已經在用其中一套的團隊。

客戶端代理針對現代筆電既有的運算單元設計，能跑在 CPU、GPU 與 NPU 上，並為 Intel、AMD、Apple、NVIDIA 與 Qualcomm Snapdragon 的晶片調校過。該公司提到，應用本身平均約 10 秒下載完成，一批模型裝到裝置上不到 30 分鐘。最新的 AI PC 能跑 32B 參數的模型，所以不必架伺服器也有實用的能力。

推論跑在你自己的硬體上，所以沒有按詞元計費，也沒有測量式的 API 帳單。該公司把 AI PC 上每詞元的預期增量成本算成 $0。多數工作流不需連網就能跑，這對外勤團隊、安全設施，以及不想靠外部服務隨時在線的人來說很重要。你的資料預設就留在自己的環境裡。

Model HQ 設計上能在三個地方跑：AI PC、你的機房（做批次推論與敏感資料的 RAG），或私有雲（應付量大且講究時效的作業）。三者可以互相串接成混合架構，筆電上的代理需要更大的模型時就向中央部署取用。企業也能建立 AI 代理應用，佈署到組織內員工的裝置上。

平台備齊了受監管買方會要求的控制項：AI 可解釋性、個資過濾、毒性與偏誤監控，以及幻覺偵測。企業部署再加上跨異質硬體的監控、更新與擴充。搭配裝置端執行，合規團隊就能回答兩個關鍵問題：資料去了哪裡、模型看到了什麼。