關於 Prem AI
About
Prem AI 是什麼
Prem AI 讓你執行 AI 模型時，不必把提示詞的明文交給基礎設施商。請求在你這一端就完成加密，在支援的路線上，只有進入機密運算環境之後才會解密。那個環境是以 Intel TDX、AMD SEV 與 NVIDIA Confidential Computing 打造的受信任執行環境（TEE）。閘道只負責轉送密文與計費用的中介資料，看不到訊息內容。
這套平台賣的其實是「少要求一點信任」。醫院、銀行、律師事務所與公部門通常無法把病歷或合約文字送進一般的 AI API，因為供應商會在明文狀態下處理內容。Prem 給這些團隊一條可以向法遵審查人員說明清楚的推論路線，還附上硬體證明，指出是哪台機器跑完這份工作。
誠實的界線是，TEE 遠端證明並不等於完整證明。Prem 自家的平台頁面就列出缺口：參考測量值預設沒有釘選，零資料保留流量靠的是合作夥伴協議而非硬體隔離的機器，路線保證也還沒把核可的映像檔綁定到確切的模型後端。如果你的威脅模型今天就要求這些保證，簽約前先讀狀態頁。
開始使用
- 到 dashboard.prem.io 註冊，在 API 區塊建立一組 API 金鑰。
- 選擇推論模式。保密式推論需要 TypeScript SDK，還要一組由你自己產生、自己保管的用戶端金鑰。零資料保留模式則接受任何 OpenAI 用戶端，換掉 base URL 就能用。
- 用 npm install @premai/api-sdk 安裝 SDK，或者啟動隨附的保密代理，繼續沿用 OpenAI SDK。
- 送出聊天或語音請求。把金鑰加密金鑰（KEK）放進密鑰管理服務並重複使用，因為一旦重新產生，早先的加密工作階段就解不開。
- 用 GET /rvenc/models 或 GET /openai/models 查模型目錄，清單會隨 API 金鑰與模式而不同。
產品資訊
快速了解 Prem AI 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 醫院、銀行與律所的法遵及資安團隊：他們需要一條能對應內部控制、也能攤在稽核人員面前的 AI 資料路徑。先從保密模式起步，在正式導入生產流量之前，確認哪些路線會帶遠端證明。
- 以開源模型為基礎的開發者：API 同時接受 OpenAI 與 Anthropic 相容呼叫，既有函式庫換個 base URL 就繼續可用。走保密路線時，模型選擇會受限於加密目錄。
- 握有敏感原始碼或內部文件的公司：提示詞與檔案對閘道都是不可讀的，當資料本身就是產品時，這一點格外要緊。設定時得把自行管理加密金鑰算進流程。
- 受資料落地規範約束的歐洲團隊：處理作業位於瑞士資料中心，並具備 SOC 2 Type I、ISO 27001 與 FADP 合規，資料不會任意跨越國界。
任務
- 臨床紀錄與病歷：語音轉錄與聊天路線都在加密邊界內執行，醫院可以自動化病歷複核，不必把原始文字送往公開的模型主機。
- 財務文件分析：合約、申報文件與報告都合適，因為內容在用戶端就加密，執行證明還能存檔備查。
- 私有儲存庫的程式輔助：Claude Code、Cursor 這類編碼代理可以對著閘道運作，團隊接上即可，不必曝露儲存庫內容。
- 受監管的語音流程：語音路線回傳 Deepgram 格式的轉錄結果，適合通話複核，尤其是錄音不得離開環境的場合。
情境
- 在 AI 試辦前通過安全審查：遠端證明包加上公開的狀態頁，讓資安人員有具體材料可以核查，而不是只聽供應商的口頭承諾。
- 不改一行程式就做評估：把 OpenAI 用戶端指向 ZDR 端點，花幾塊美元買權杖，先比較輸出，再決定要不要動保密路線。
- 把推論留在單一司法管轄區：部署在瑞士就回答了資料落地的問題，而這正是歐洲部分地區推動雲端 AI 時卡住的關卡。
- 建在自家硬體上：Enclave 授權可安裝在你自己的 GPU 機櫃，對國防與公部門特別有意義，因為資料一步都不能離開建築物。
主要功能
用戶端加密
這是加密 AI API 的底層設計：應用程式在發出任何網路請求之前就先加密請求內容。閘道拿到的是密文，外加模型名稱、大小、時間與計費等作業中介資料。只有執行推論的執行環境會解密內容。實際效果是，閘道日誌外洩或維運人員好奇，都不會看到你的提示詞文字；隨附的本機代理版本，讓只支援 OpenAI 格式的用戶端也享有同級保護。金鑰加密金鑰從頭到尾都不會送到 Prem 手上。
可以自行核對的硬體證明
每一筆受保護的請求都能帶回遠端證明：來自 CPU 與 GPU 的簽章、證明資料新鮮度的 nonce，以及說明測量值是否符合核可參考值的政策結果。Prem 把驗證程式碼公開在 GitHub，資安團隊可以自己跑檢查，不必單靠儀表板上的徽章。證明涵蓋 AMD SEV-SNP、Intel TDX 與 NVIDIA 機密運算，多 GPU 叢集的場合也是逐一驗證每張 GPU 的聲明。
兩種推論模式
保密式推論把整條路徑都放進加密與受保護的執行環境，針對敏感資料與生產負載設計。零資料保留則是一般的 OpenAI 相容端點，不需要管理金鑰，也不架代理，Prem 依不保留資料的合約把請求轉給合作夥伴。第二種模式是測試模型、做原型與處理公開資料時最省錢的做法。兩種模式的目錄各自獨立，把模型送到錯誤的模式，API 會直接回一個明確的 400 錯誤。
透明定價的開源模型目錄
目錄以當前的開放權重模型為主：Qwen 3.8、DeepSeek V4 與 V4.1 系列、GLM 5.2 與 5.3、Kimi K3，以及處理決策任務的 DiffusionGemma。價格以每百萬權杖計算，輸入與輸出都公開，快取的提示詞權杖另有折扣。最便宜的模型上，保密式聊天的輸入價格約每百萬權杖 $0.30 至 $0.35，語音轉錄則是每分鐘 $0.05。送資料之前，你已經知道費率。
多模態路線
聊天依模型不同，接受文字、圖片與影片輸入。語音轉錄路線處理音訊，回傳相容於 Deepgram 的結果。決策端點則用機率回答分類型問題，適合需要一個數字而非一段文字的分類與評分工作。一組 API 金鑰、一個 base URL 就能打通全部，受監管的流程通常需要的串接程式碼因此少掉不少。
瑞士託管與部署選項
託管服務跑在瑞士資料中心，可用性承諾接近 99.98%，並使用再生能源。無法使用託管 API 的團隊，可把 Enclave 虛擬化層裝在既有的 GPU 叢集上，不論是地端、公有雲帳號或私有雲，Prem 表示自己也讀不到那裡處理的資料。企業部署還能再進一步：專屬執行個體、自選模型，以及完全斷網的環境。
同一帳號下的周邊產品
Prem 更大的主張是主權 AI：資料、算力與模型都留在你的掌控之下，並以一個帳號串起三項產品。Fluso 是無程式碼的代理建置工具，給想把代理套進內部流程又不寫程式的團隊。Prem Studio 用你自己的資料微調與壓縮模型，權重可以匯出並自行託管。兩者都不取代 API，但如果你寧可擁有一個較小的模型，也不想租用一個大模型，它們就有意義。
優缺點
優點
- 用戶端加密讓提示詞文字不會以可讀形式抵達閘道，這一點與一般模型 API 有實質差別。
- 遠端證明可以用公開程式碼自行核對，資安審查人員有東西可驗，而不是只能讀政策文件。
- 相容 OpenAI 與 Anthropic 的介面讓搬遷時間很短，往往只是換 base URL 與金鑰。
- Prem 按權杖計價，輸入與輸出費率都公開，編預算相對單純，快取提示詞還能壓低重複成本。
- 瑞士託管加上 SOC 2 Type I、ISO 27001 與 FADP，回答了歐洲 AI 導入時最常卡住的資料落地問題。
缺點
- 保密目錄偏小。如果你的流程依賴某個特定的閉源模型，那條路線就不存在。
- 金鑰管理得自己扛。KEK 弄丟，先前的加密工作階段就解不開，所以必須放進有備份的密鑰管理服務。
- 遠端證明有官方記載的缺口：參考測量值預設沒有釘選，路線保證也還沒綁定實際供應的模型，通過檢查並不足以證明完整聲明。
- 零資料保留靠的是合作夥伴合約而非硬體隔離，加上沒有免費方案，從第一通呼叫起就要付費。
常見問題
Prem AI 為無法把明文提示詞送進雲端供應商的團隊執行 AI 模型。它在用戶端加密請求，在機密運算硬體中處理支援的路線，並回傳遠端證明。另外也販售虛擬化層授權，讓同一套架構跑在自己的 GPU 上。
相關內容
探索與 Prem AI 相關的工具、技能與文章。
Prem AI 替代方案
Base Code
Base44 (Wix) · 程式設計 · 生產力Base Code 是 Base44 推出的共享雲端開發環境。團隊在對話中描述對既有 GitHub 儲存庫的修改，看著預覽確認結果，再以 Pull Request 交回工程團隊。
Google EmbeddingGemma 2
Google DeepMind · 寫作 · 圖片 · 程式設計Google EmbeddingGemma 2 是 7.4 億參數的開源模型，能把文字、程式碼、圖片、音訊與影片畫面轉成同一個 768 維空間裡的向量，在手機與筆電上就能執行。
GitGlow
GitGlow · 程式設計 · 生產力GitGlow 是桌面版 Git 用戶端，把你自己的程式碼與 AI 代理程式的變更集中在同一份審查裡，讓你在交付前看清楚機器上究竟要送出什麼。