
Tinker
Thinking Machines Lab · 程式設計 · 其他
Tinker 是 Thinking Machines Lab 推出的訓練 API,透過 LoRA 微調語言模型,這種方法訓練的是一個額外的小型適配器,而不是重寫每一組基礎權重。你用單純的 Python 定義損失函數、訓練迴圈與資料管線,分散式的 GPU 工作則由 Tinker 在背後執行。它適合想掌控演算法與資料、又不想管理叢集的研究人員與開發者,計費方式是按 token 用量而非固定訂閱。

關於 Tinker
Tinker 是什麼
Tinker 是一套代管式訓練 API,對象是研究或打造開源模型的人。可以把它想成一套不會擋路的 AI 模型微調 API。它提供低階的基本元件,例如 forward_backward、optim_step、sample 與 save_state,訓練迴圈要做什麼由你決定,排程工作與維持機器運轉則交給 Tinker。訴求很單純:演算法與資料留在你手上,把排程、調校與可靠性這類往往吃掉研究預算的雜事交出去。
這項服務於 2025 年 10 月推出,2025 年 12 月全面開放,無需候補名單。它出自 Thinking Machines Lab,也就是 Mira Murati 離開 OpenAI 的 CTO 一職後創辦的公司,背後是團隊自家的研究,顯示 LoRA 只要設定得當,學習表現就能追上完整微調。
問題在於範圍。Tinker 只能訓練自家目錄中既有的模型,因此你無法從零預訓練模型,也無法載入自己的權重。另外你得按 token 付費,小實驗很便宜,但一旦把一次訓練放大,費用就漲得很快。你的資料仍屬於你。根據 Thinking Machines 的說法,資料只用來微調你的模型,絕不會拿去訓練他們的模型。
開始使用
- 在 Tinker 網站建立帳號,並在儀表板產生 API 金鑰。
- 從目錄挑一個基礎模型,並在環境中安裝 Python 用戶端。
- 把訓練資料準備成監督式範例或強化學習環境。
- 在迴圈中呼叫基本元件,計算梯度、更新權重並取樣輸出。
- 用
save_state儲存檢查點,下載你想保留的權重。
產品資訊
快速了解 Tinker 的定價、支援平台與效能。
適合對象
這項工具最適合的使用者、任務與情境。
使用者
- 機器學習研究人員:他們需要自訂的損失函數與訓練迴圈,Tinker 把這些基本元件攤開來,同時免去叢集管理。
- 研究生與實驗室團隊:柏克萊、普林斯頓與史丹佛的大學團隊曾用 Tinker 進行證明系統與化學推理,共用一組 GPU 資源池讓成本壓得下來。
- 新創工程師:小團隊不必養一支基礎架構團隊,也不必買 GPU,就能把開放模型調成解決特定利基任務的版本。
任務
- 監督式微調:用你自己標註過的範例訓練,把通用模型變成專注特定任務的模型。
- 強化學習訓練:自己打造訓練迴圈,讓 Tinker 執行梯度步驟與取樣。
- 視覺語言調校:用圖片、截圖或圖表微調 Qwen3-VL 模型,處理分類與推理工作。
- 蒸餾:用 Tinker Cookbook 的 on-policy 方法,把大模型的行為壓縮進較小的模型。
情境
- 研究團隊在固定預算下測試新的後訓練演算法。
- 團隊把數學或程式模型調校到內部基準測試上。
- 開發者需要一個針對單一狹窄任務的自訂模型,又不想自己架叢集。
主要功能
低階訓練基本元件
Tinker 交給你四個核心函數。forward_backward 執行前向與後向傳播並累積梯度。optim_step 更新權重。sample 產生 token 供評估或強化學習動作使用,save_state 則儲存進度。這一小組函數涵蓋多數後訓練方法,你要怎麼組裝全看實驗需要。
可替換的基礎模型
從小型模型換到大型許多的模型,只是改 Python 程式碼裡的一個字串,不必重寫。也不需要新的訓練腳本。目錄涵蓋從精巧的稠密模型到大型混合專家系統,例如 Kimi K2 Thinking 與 Nemotron 3 系列,因此你能先用便宜的方式做原型,之後再放大。
可調秩的 LoRA
Tinker 用 LoRA 微調,訓練的是精簡的適配器,而不是整套權重。平台會即時調整適配器的秩,讓多個訓練任務共用同一組 GPU 資源池。同樣的實驗,帳單更小。測試想法時,迭代更快。
相容 OpenAI 的推論
標準推論介面比照 OpenAI API,因此模型即使還在訓練,你也能從中取樣。任何已經支援 OpenAI 格式的工具或框架,只要指向模型路徑就能接上,省去寫串接程式碼的功夫。
代管的分散式訓練
你永遠碰不到 GPU 驅動程式或叢集設定。Tinker 自己調度分散式訓練,處理排程、資源分配,以及任務失敗時的復原。你的時間花在資料與演算法上,而不是維持硬體運作。
Tinker Cookbook
團隊釋出一套開源函式庫,內含貼近實務的微調範例,從經典監督式學習到實驗性的強化學習管線都有。在你動手寫自己的迴圈之前,這是了解基本元件如何搭配最快的方式。
優缺點
優點
- 完整掌控損失函數與訓練迴圈,又不必自己擁有硬體。
- LoRA 壓低運算成本,並讓多個訓練共用一組 GPU 資源池。
- 按 token 計費,代表你只為實驗實際消耗的部分付錢。
- 換模型只要改一行,試用更大的基礎模型成本很低。
- 檢查點可下載,你不會被綁在平台上。
缺點
- 沒有免費方案,還沒花錢之前無法試跑整個流程。
- 無法載入自己的權重,也無法從零預訓練模型,許多自訂架構因此出局。
- 成本隨 token 增加,長時間的強化學習訓練可能很快燒光預算。
- 基本元件 API 預設你會寫 Python、懂訓練迴圈,它不是點擊式的工具。
常見問題
它是一套微調開源語言模型的 API。你提供資料與程式碼,Tinker 在自己的 GPU 叢集上執行訓練,並回傳一個你能取樣或下載的模型。
相關內容
探索與 Tinker 相關的工具、技能與文章。
Tinker 替代方案
Forefront
Forefront · 程式設計Forefront 是一個用來打造開源 AI 的網頁平台。你可以用自己的資料微調主流的開源語言模型、評估它們的表現,再透過 API 執行,或匯出後自行架設。想要封閉式平台的便利、卻堅持要自己擁有模型與資料的開發者,就是這裡的目標客群。
Startkit
StartKit.AI · 程式設計Startkit 是一套用來打造 AI SaaS 與 AI 包裝產品的樣板。可以把它想成一個 AI 新創樣板,把枯燥的部分都先接好了:驗證、Stripe 與 Lemon Squeezy 付款、用量限制、交易型電子郵件,以及一套能與 OpenAI、Anthropic、Groq 或 Llama 溝通的 AI API 啟動套件。你複製儲存庫、設定價格,然後專心在產品中使用者真正願意付費的部分。它建構於 React 與 Tailwind 之上的 Next.js,所以大部分的樣板程式碼對你來說並不陌生。
Testim
Tricentis · 程式設計Testim 是專為網頁、行動與 Salesforce 應用程式打造的 AI 測試自動化平台,用來建立並執行端到端測試。它靠機器學習在介面變動時維持測試穩定,團隊因此少花時間修補壞掉的定位器。對於一款今天就能開始使用的自動化測試工具來說,這表現不算差。你透過在瀏覽器錄製動作來建立測試,需要更多控制時再補上 JavaScript。對忙碌的 QA 團隊來說,這是個可靠的選擇。
