她在 The Verge 的 Decoder 節目裡把話講得很直:現在的監管設計都假設公司裡有人會在關鍵時刻說不,而這個假設在 OpenAI 被測試過一次,結果是壞的。
Helen Toner 是誰:CSET 與那一次董事會投票
Toner 現在是喬治城大學安全與新興技術中心(CSET)的執行總監。這個中心 2019 年成立,大約 50 人,做的是給政策制定者看的技術與國安分析,沒有裁罰權,也不管任何一家公司。
2023 年,她是投票把 Sam Altman 解職的四名 OpenAI 董事之一。Altman 回任執行長,她離開董事會,董事會改組,公司後來也調整了結構。這段歷史講三句就夠,重點在她現在講的話。
The Verge 在 11 月 13 日刊出這集 Decoder,是「AI in real life」系列的第二集。
她的核心論點:AI safety 不能押在一個人身上
訪談前言把她的立場轉述成一句:如果我們對未來的期待取決於某一個人值得信任,那我們就麻煩大了。
這句話講的是結構問題。法律與自願協議目前都靠公司內部有人在關鍵時刻說不,而這個人可能被換掉、被繞過,或根本沒有權限。制度把安全寫成一個人的美德,那個位置一旦空了,整條防線就空了。
這種批評聽起來像在怪人,其實問的是很實務的問題:煞車裝在一個人身上,那個人的繼任者是誰、誰能解僱他、董事會看得到同一份資訊嗎。三個問題有一個答不出來,這套設計就只是好看的。
OpenAI board 的那次測試,機制怎麼壞的
這個機制唯一一次真的被按下,就是她投的那一票。
Toner 把問題指向位置本身:一個沒有實權的董事席次,投票只是表態。一個由被監督者挑選的監督者,很難在關鍵時刻站在對面。
她的結論偏向制度,不是個人。這也是她後來把重點放在席次怎麼產生的原因。
自願協議與 self-regulation:為什麼她說委員會沒有牙齒
今年夏天,OpenAI 與 Anthropic 的模型跑出測試環境,打進真實企業。兩家實驗室的執行長出來喊話,白宮給了一份自願協議,其中一部分靠董事會問責。
她的評語很直接:公司是民營的,董事是誰實際上由公司自己決定,獨立的董事會委員會在這種結構下幾乎沒有牙齒。自願兩個字也說明它沒有強制力,違反了不會有罰則。順著這個邏輯,問題最後回到董事席次怎麼產生。
台灣金融業這幾年走的也是同一條路。金管會出指引,業者自己訂內控,真正會踩煞車的還是公司裡那幾個人。指引寫得再細,也要有人願意在會議上舉手說不。
期中選舉之後,AI safety 變成安靜的兩黨議題
她觀察到大量資金進了選戰、訊息操作與對手研究,針對談 AI 治理的人做假草根動員,效果並不理想。選民在意這件事,操作過頭反而留下痕跡。她提到,談治理的候選人並沒有因此在票箱上吃到虧,這跟幾年前的預期不一樣。
她的判斷是,這個議題在國會兩院與行政部門已經跨黨派。政策圈對高品質資訊的需求很大,缺的是能查證的技術分析。
CSET 的工作:把技術細節翻譯成政策判斷
CSET 做的事情不神祕。團隊把模型能力、供應鏈、出口管制這些題目拆成政策可以用的判斷,產出是報告與閉門簡報。
她提到 Anthropic 的 S-1 值得一讀,因為那是一份實驗室自己描述風險給投資人看的文件。這種文件比公關稿誠實,因為它得面對法律責任。
台灣海峽的比喻:她怎麼看中國與協調
她把前沿 AI 風險比作台海情境。分析師多半會說大概不會發生,但它是扎實可信的情境,該準備,不該被笑出房間。
對台灣讀者來說,這個比喻不抽象。同樣的邏輯套在 AI 上,結論是不要把「機率不高」當成「不用管」。準備的意思是把它放進風險清單,編預算、寫流程,不是每天醒來都當它明天發生。
她也說多數人沒有被機械神的威脅模型說服。如果那個結局是真的,中國也不想要。這讓協調變成核心問題,誰先立法反而是次要的。
Helen Toner 沒有回答的問題
訪談沒有談黃仁勳的辭職與 Nvidia 的調查,錄音時間在兩件事之前。她也沒有指名任何法案或候選人,沒有說哪一家實驗室現在安全或不安全。
她在訪談裡給的建議偏無聊:讀原始文件、問對問題、別直接接受廠商給的結論。三件事都不需要專業背景,只需要一點耐心。
留下來的是一個判準。下次看到監管新聞裡出現獨立委員會、董事會問責、業者自律這些字,先問那個委員會是誰派的、能不能換掉執行長。這個問題比任何評分表難回答,也比評分表有用。






