BrowserAI
BrowserAI · 程式設計
BrowserAI 是一套開源 JavaScript 函式庫，透過 WebGPU 在瀏覽器內執行本機 LLM、語音辨識與文字轉語音，資料留在裝置上，伺服器成本降到零。
關於 BrowserAI
What Is BrowserAI
BrowserAI 是一套專為瀏覽器設計的 AI 函式庫，把語言模型載入並執行在使用者自己的裝置上，而不是遠端伺服器。這種瀏覽器 AI 的做法，讓你從 npm 安裝，呼叫一組簡短的 API 載入模型並生成文字，一切都在瀏覽器分頁內完成。專案以 MIT 授權開源，因此沒有 API 金鑰、沒有請求上限，也沒有任何東西需要架站代管。
它的賣點在於運算發生的位置。由於推論是透過 WebAssembly 與 WebGPU 在本機執行，使用者的提示不會離開自己的機器，產品上線後也不會產生按次計費的帳單。函式庫內建 Llama、Qwen、Gemma、SmolLM2 與 Phi 等家族已經配置好的模型，加上負責語音的 Whisper 與負責發聲的 Kokoro，因此不必訓練任何東西就能做出示範。
取捨也很真實。裝置端的小型模型在困難推理上比不過雲端的頂尖模型，而瀏覽器必須支援 WebGPU，這就排除了較舊的機器。模型檔案也很大，第一次載入代表使用者得先等一段不小的下載，才會看到任何回應。
Getting Started
- 用 npm install @browserai/browserai 安裝函式庫，或從 yarn 加入。
- 匯入 BrowserAI，呼叫 loadModel 並帶入模型名稱，同時追蹤權重下載到瀏覽器的進度。
- 呼叫 generateText 並帶入提示或訊息列表，若想設定聊天角色，可再傳入 system prompt。
- 要處理語音，就載入 Whisper 模型轉錄音訊，或用 Kokoro 把文字轉成語音，再播放產生的音訊緩衝。
- 發布頁面，等檔案進入快取後，回訪的使用者就能離線執行模型。
產品資訊
快速了解 BrowserAI 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 前端開發者：不必架後端、也不必按次付費，就能替網頁加上聊天或語音功能。
- 重視隱私的團隊：提示在使用者裝置上執行，資料不會送到第三方伺服器，適合醫療、法務或內部工具。
- 玩家與學生：函式庫免費又開源，任何人都能試玩 LLM，不必付 API 費用，也不用自備 GPU。
- 預算吃緊的團隊：沒有伺服器要跑，多一個使用者的成本幾乎是零。
任務
- 在頁面裡做聊天：載入小型指令模型，把回覆直接串進聊天介面。
- 加上語音輸入：用 Whisper 模型轉錄麥克風的音訊，全程在瀏覽器內完成。
- 生成語音：用 Kokoro 把文字轉成音訊，用於朗讀或語音介面。
- 回傳結構化資料：傳入 JSON schema，拿回驗證過的物件，而不是自由文字。
- 分離音軌：用 Demucs 引擎把歌曲中的人聲、鼓、貝斯與其他音軌拆開。
情境
- 推出私人寫作助理：文字不會離開筆電，內容敏感時特別好用。
- 在飛機上或離線環境示範：第一次下載之後，頁面沒有連線也能繼續運作。
- 在編預算前先做 AI 功能原型：團隊先在瀏覽器裡驗證想法，再決定要不要花雲端費用。
- 把 AI 嵌進內部工具：員工在公司網路內使用模型，不必把資料交給外部廠商。
主要功能
在裝置上執行的模型
BrowserAI 透過 WebGPU 與 WebAssembly 把模型直接載入瀏覽器，推論因此在使用者的硬體上完成。函式庫內建 Llama、Qwen、Gemma、SmolLM2、Phi 與 DeepSeek 等家族可直接使用的權重，另有供搜尋用的嵌入模型。你呼叫 loadModel 並帶入名稱與量化設定，其餘交給函式庫處理。在支援的機器上，因為 GPU 扛下主要運算，回覆幾乎能以原生速度返回。
語音辨識與文字轉語音
語音是函式庫的核心，而不是附加功能。Whisper 模型轉錄錄下的音訊，Kokoro 則把文字轉成可播放的音訊緩衝，還能挑選聲音與速度。內建的錄音器能擷取麥克風，你不必再串接其他服務就能做出語音助理。因為兩者都在本機執行，音訊和文字一樣都留在裝置上。
用 JSON schema 產生結構化輸出
與其解析自由文字、再祈禱結果正確，你可以傳入 JSON schema 並要求回傳 JSON 物件。模型會給出符合該 schema 的資料，直接接進你的應用。這在代理與表單上很重要，因為一個格式錯誤的回覆就會讓流程中斷。最後拿到的是乾淨的物件，可以驗證也能儲存。
同一組 API 背後的多種引擎
函式庫不會把你綁在單一執行環境上。它在 MLC、Transformers、Flare 與 Demucs 引擎之間切換，各自適合不同任務。MLC 與 Flare 透過 WebGPU 與 WASM 負責文字生成，Transformers 處理語音與發聲，Demucs 則把音訊拆成音軌。API 在這些引擎之間維持一致，換引擎不必重寫程式碼。
Web Worker 與串流
模型若佔滿主執行緒，分頁可能整個凍住，BrowserAI 用 Web Worker 執行推論來避開這件事。模型思考時介面仍能回應，輸出逐個詞元串流出來，讓使用者看見進度。Web Worker 加串流，把笨重的本機模型變成感覺像普通網頁應用的東西。
內建儲存與離線使用
BrowserAI 內建以 IndexedDB 與 SQLite 為基礎的瀏覽器資料庫，用來保存對話、嵌入與快取的模型檔案。正是這份儲存讓頁面在第一次下載之後仍能運作，即使沒有網路也一樣。對聊天應用來說，重新整理後歷史還在，不必靠伺服器同步。
優缺點
優點
- 資料永遠不離開裝置，適合不能把提示送往雲端 API 的隱私敏感應用。
- 沒有按次費用，也沒有伺服器要跑，無論多少使用者開啟頁面，營運成本都幾乎為零。
- 內建已經配置好的模型，做一個能用的聊天或語音示範只要幾行程式，不必從訓練流程開始。
- 一組 API 就涵蓋文字、語音、結構化輸出與音訊分離，不必把四種服務拼在一起。
- 檔案進入快取後可離線運作，適合機台、外勤工具，以及連線不穩的場合。
缺點
- 裝置端的小型模型在困難推理上比不過雲端頂尖模型，提示一複雜品質就下滑。
- 需要支援 WebGPU 的瀏覽器，較舊的機器與部分手機會被排除，觸及範圍因此變窄。
- 模型權重很大，第一次載入得先等一段緩慢的下載，應用才會回應。
- 沒有代管服務，也沒有現成的託管端點，想要開箱即用 API 的團隊得自己打造並發布前端。
常見問題
BrowserAI 是一套開源 JavaScript 函式庫，用來在網頁瀏覽器內執行 AI 模型。它把語言、語音與音訊模型載入使用者裝置，並透過 WebGPU 與 WebAssembly 執行，因此沒有伺服器，也沒有 API 金鑰。開發者從 npm 加入後，呼叫它的 API 就能生成文字、轉錄音訊或產生語音。
相關內容
探索與 BrowserAI 相關的工具、技能與文章。
BrowserAI 替代方案
Forefront
Forefront · 程式設計Forefront 是一個用來打造開源 AI 的網頁平台。你可以用自己的資料微調主流的開源語言模型、評估它們的表現，再透過 API 執行，或匯出後自行架設。想要封閉式平台的便利、卻堅持要自己擁有模型與資料的開發者，就是這裡的目標客群。
Startkit
StartKit.AI · 程式設計Startkit 是一套用來打造 AI SaaS 與 AI 包裝產品的樣板。可以把它想成一個 AI 新創樣板，把枯燥的部分都先接好了：驗證、Stripe 與 Lemon Squeezy 付款、用量限制、交易型電子郵件，以及一套能與 OpenAI、Anthropic、Groq 或 Llama 溝通的 AI API 啟動套件。你複製儲存庫、設定價格，然後專心在產品中使用者真正願意付費的部分。它建構於 React 與 Tailwind 之上的 Next.js，所以大部分的樣板程式碼對你來說並不陌生。
Testim
Tricentis · 程式設計Testim 是專為網頁、行動與 Salesforce 應用程式打造的 AI 測試自動化平台，用來建立並執行端到端測試。它靠機器學習在介面變動時維持測試穩定，團隊因此少花時間修補壞掉的定位器。對於一款今天就能開始使用的自動化測試工具來說，這表現不算差。你透過在瀏覽器錄製動作來建立測試，需要更多控制時再補上 JavaScript。對忙碌的 QA 團隊來說，這是個可靠的選擇。