Milliseconds.ai
CloudRaker · 寫作 · 圖片 · 程式設計
Milliseconds.ai 是一套 API，能把文字與圖片轉換成你的應用程式可以據此行動的決策。它把文字分類 API、圖片擷取 API 與結構化輸出 API 合而為一。它不會寫出一段文字，而是回傳一個標籤、一組欄位、一個分數或一個是非題的答案。這套 API 背後的模型叫做 decision-machine-1，它執行單次前向傳遞，而不是一次產生一個 Token。大多數呼叫大約在 90 毫秒內回來。這正是名稱所承諾的賣點。
關於 Milliseconds.ai
什麼是 Milliseconds.ai
大多數 AI 工具用文章式的語句回答。Milliseconds.ai 不是。它處理應用程式裡的小決策：一封郵件該進哪個客服佇列、一則訊息是否緊急、一張發票上的總額是多少。你送出文字或圖片，就會拿回帶有標籤、機率或一組擷取欄位的結構化資料。
它由 CloudRaker 打造。這套 API 執行一個叫做 decision-machine-1 的模型。針對有界的任務，它跳過逐 Token 的生成，改以單次前向傳遞讀取輸入。訴求很簡單。少一點對話，多一點完成的工作。
主要的限制在於範圍。它不是通用助理，所以不會幫你寫部落格文章，也不會跟你對話。它處理的是你定義的分類，並且依賴你提供的標籤與欄位，而不是自己發明任何東西。若要開放式的寫作，通用的大型語言模型仍是更好的選擇。
開始使用
- 在 console.milliseconds.ai 的主控台建立 API 金鑰，並在你的 shell 或伺服器環境中設為
MS_API_KEY。 - 挑選一項能力：是非、分類、評分、回答、擷取、實體或驗證。
- 送出請求，附上你的文字或圖片，以及你想拿回的標籤、問題或欄位。
- 若偏好有型別的結果，就安裝 SDK（npm install @cloudraker/milliseconds，或 pip install cloudraker-milliseconds），然後在程式碼中讀取標籤、機率與信心值。
- 當結果在你自己的輸入上站得住腳，就從測試金鑰轉到正式環境。
產品資訊
快速了解 Milliseconds.ai 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 需要把分類器、擷取器或評分呼叫接進既有流程，又不想自己管理模型的後端開發者。
- 打造客服、帳務或物流流程的產品團隊，其中每則訊息都得被導向特定位置。
- 想在一個佇列上評分情緒或急迫性，並且不用逐筆手動標註就能排序的資料工程師。
任務
- 轉送客服工單：把進來的郵件分類成帳務、出貨或技術，並送進正確的佇列。
- 讀取發票欄位：從掃描文件抓出發票號碼、供應商、總額與幣別。
- 標記緊急訊息：在訊息送到真人之前，做一次是非檢查，判斷客戶是否表達急迫性。
- 評分語氣：用你定義的量表，評估一則訊息聽起來有多不滿。
- 對照來源驗證主張：檢查你送出的文字是否支持某項主張。
情境
- 高流量的流程，其中每次呼叫只有不到一分錢的成本，比擁有最聰明的模型更重要。
- 在免費方案上先把想法做成原型，等結果站得住腳，再把同樣的呼叫轉到正式金鑰。
- 已經用大型語言模型來寫作，但底下分支邏輯需要更便宜、更快速模型的應用程式。
主要功能
七種呼叫形式
Milliseconds.ai 涵蓋的是一小組決策類型，而不是單一通用類型。你可以取得是非題答案、帶完整分數分布的分類標籤、量表上的評分、從來源文字抽出的答案、擷取的欄位、具名實體，或驗證結果。每一種形式都對應軟體早已在某處執行的工作，而要在它們之間做選擇，通常取決於你的程式碼需要的是一個旗標、一個類別、一個數字，還是一組可以儲存的值。轉送規則需要標籤。填表步驟需要欄位。挑對形式就是設定工作的大部分。
不逐 Token 解碼
模型以單次前向傳遞讀取輸入並回傳結果，而不是像聊天模型那樣一個字一個字寫出答案。這就是為什麼一個決策大約 90 毫秒就能回來。較長的呼叫仍然存在。回答大約要 0.3 到 0.9 秒，擷取要 2.5 到 3.5 秒。對於只需要一個旗標或標籤的請求，速度仍然撐得住。
看得見的分數分布
當分類很接近時，你看得出來。一次分類呼叫會回傳你提供的每個標籤的機率，不只是贏家，還附上信心值。如果兩個標籤各落在 0.34 附近，你的程式碼可以把這個案例標記出來供人工檢視，而不是用猜的。這跟只給你單一答案、把疑慮藏起來的 API 有實質差別。不必猜。
文字與圖片輸入
同樣的能力接受文字或圖片。送出位元組、base64 字串或資料 URL，模型就會直接讀取。支援的格式是 JPEG、PNG 與 WebP，每個上限 5 MB。那圖片儲存呢？沒有。圖片處理依你選擇的細節等級，以固定的 Token 數量計費。遠端圖片 URL 不被接受，所以你的程式碼必須自己送出檔案。
SDK 與 CLI
有官方的 TypeScript 與 Python SDK，還有一支叫做 dm1 的命令列工具。結果型別會跟著你定義的標籤走，所以你可以讀取勝出的標籤與它的分數，不必拆解原始的 HTTP。這支 CLI 能從檔案或管線讀取文字、為其他程式寫出 JSON，並用結束代碼來控制腳本。安裝只要一行 npm 或 pip 指令。
透明且低廉的價格
正式環境的價格是每百萬輸入 Token 0.04 美元，輸出 Token 免費。測試金鑰每個月給你 1.25 億個免費輸入 Token，足以在付任何錢之前用真實資料評估這套 API，而只要購買至少 10 美元的額度，就能把專案轉到正式金鑰。圖片依細節等級以固定費率計費，所以你可以在投入之前估出一千張圖片的成本。
優缺點
優點
- 決策以結構化資料回傳，所以你的應用程式可以直接依結果分支，不必解析散文。
- 大多數呼叫落在 90 毫秒附近，適合不能每筆等上好幾秒的流程。
- 分類會公開完整的分數分布與信心值，讓平手的案例看得見。
- 免費方案每月提供 1.25 億個輸入 Token，且不需要信用卡。
- TypeScript 與 Python SDK 加上一支 CLI，代表常用語言的黏著程式碼更少。
缺點
- 它不會寫作、摘要或對話，所以無法取代通用模型來處理開放式任務。
- 不支援遠端圖片 URL，這表示你必須自己取得並送出圖片位元組。
- 擷取能力每次呼叫上限為 5 個欄位，所以完整文件需要另一套工具。
常見問題
它用於軟體裡的小決策：分類訊息、從文件擷取欄位、評分語氣，以及回答是非題。它回傳結構化資料而非文字，所以輸出能直接接上應用程式邏輯。
相關內容
探索與 Milliseconds.ai 相關的工具、技能與文章。
Milliseconds.ai 替代方案
Google EmbeddingGemma 2
Google DeepMind · 寫作 · 圖片 · 程式設計Google EmbeddingGemma 2 是 7.4 億參數的開源模型，能把文字、程式碼、圖片、音訊與影片畫面轉成同一個 768 維空間裡的向量，在手機與筆電上就能執行。
MePersona
MePersona, Inc. · 寫作 · 生產力 · 行銷MePersona 是為創作者設計的 AI 統一收件匣。它學習你的說話方式，在 12 個平台上草擬粉絲訊息回覆，只送出你核准的內容。
Fluence
Yay Software (Yannick Huchard) · 寫作 · 語音與語言 · 生產力Fluence 是 Android 上的文件閱讀器，能朗讀 PDF、EPUB、Word 檔與網路文章，逐句跟著語音標示，並在手機上直接回答你對內容的提問。