商業與產業

Helen Toner:把 AI 監管寄託在董事會,這條路已經壞過一次

她在 The Verge 的 Decoder 節目裡把話講得很直:現在的監管設計都假設公司裡有人會在關鍵時刻說不,而這個假設在 OpenAI 被測試過一次,結果是壞的。

陳柏宇陳柏宇
熱度:950
紅色引言面板上寫著如果只靠一個人我們就麻煩了,旁邊是信任兩個字

她在 The Verge 的 Decoder 節目裡把話講得很直:現在的監管設計都假設公司裡有人會在關鍵時刻說不,而這個假設在 OpenAI 被測試過一次,結果是壞的。

Helen Toner 是誰:CSET 與那一次董事會投票

Toner 現在是喬治城大學安全與新興技術中心(CSET)的執行總監。這個中心 2019 年成立,大約 50 人,做的是給政策制定者看的技術與國安分析,沒有裁罰權,也不管任何一家公司。

2023 年,她是投票把 Sam Altman 解職的四名 OpenAI 董事之一。Altman 回任執行長,她離開董事會,董事會改組,公司後來也調整了結構。這段歷史講三句就夠,重點在她現在講的話。

The Verge 在 11 月 13 日刊出這集 Decoder,是「AI in real life」系列的第二集。

她的核心論點:AI safety 不能押在一個人身上

訪談前言把她的立場轉述成一句:如果我們對未來的期待取決於某一個人值得信任,那我們就麻煩大了。

這句話講的是結構問題。法律與自願協議目前都靠公司內部有人在關鍵時刻說不,而這個人可能被換掉、被繞過,或根本沒有權限。制度把安全寫成一個人的美德,那個位置一旦空了,整條防線就空了。

這種批評聽起來像在怪人,其實問的是很實務的問題:煞車裝在一個人身上,那個人的繼任者是誰、誰能解僱他、董事會看得到同一份資訊嗎。三個問題有一個答不出來,這套設計就只是好看的。

OpenAI board 的那次測試,機制怎麼壞的

這個機制唯一一次真的被按下,就是她投的那一票。

Toner 把問題指向位置本身:一個沒有實權的董事席次,投票只是表態。一個由被監督者挑選的監督者,很難在關鍵時刻站在對面。

她的結論偏向制度,不是個人。這也是她後來把重點放在席次怎麼產生的原因。

自願協議與 self-regulation:為什麼她說委員會沒有牙齒

今年夏天,OpenAI 與 Anthropic 的模型跑出測試環境,打進真實企業。兩家實驗室的執行長出來喊話,白宮給了一份自願協議,其中一部分靠董事會問責。

她的評語很直接:公司是民營的,董事是誰實際上由公司自己決定,獨立的董事會委員會在這種結構下幾乎沒有牙齒。自願兩個字也說明它沒有強制力,違反了不會有罰則。順著這個邏輯,問題最後回到董事席次怎麼產生。

台灣金融業這幾年走的也是同一條路。金管會出指引,業者自己訂內控,真正會踩煞車的還是公司裡那幾個人。指引寫得再細,也要有人願意在會議上舉手說不。

期中選舉之後,AI safety 變成安靜的兩黨議題

她觀察到大量資金進了選戰、訊息操作與對手研究,針對談 AI 治理的人做假草根動員,效果並不理想。選民在意這件事,操作過頭反而留下痕跡。她提到,談治理的候選人並沒有因此在票箱上吃到虧,這跟幾年前的預期不一樣。

她的判斷是,這個議題在國會兩院與行政部門已經跨黨派。政策圈對高品質資訊的需求很大,缺的是能查證的技術分析。

CSET 的工作:把技術細節翻譯成政策判斷

CSET 做的事情不神祕。團隊把模型能力、供應鏈、出口管制這些題目拆成政策可以用的判斷,產出是報告與閉門簡報。

她提到 Anthropic 的 S-1 值得一讀,因為那是一份實驗室自己描述風險給投資人看的文件。這種文件比公關稿誠實,因為它得面對法律責任。

台灣海峽的比喻:她怎麼看中國與協調

她把前沿 AI 風險比作台海情境。分析師多半會說大概不會發生,但它是扎實可信的情境,該準備,不該被笑出房間。

對台灣讀者來說,這個比喻不抽象。同樣的邏輯套在 AI 上,結論是不要把「機率不高」當成「不用管」。準備的意思是把它放進風險清單,編預算、寫流程,不是每天醒來都當它明天發生。

她也說多數人沒有被機械神的威脅模型說服。如果那個結局是真的,中國也不想要。這讓協調變成核心問題,誰先立法反而是次要的。

Helen Toner 沒有回答的問題

訪談沒有談黃仁勳的辭職與 Nvidia 的調查,錄音時間在兩件事之前。她也沒有指名任何法案或候選人,沒有說哪一家實驗室現在安全或不安全。

她在訪談裡給的建議偏無聊:讀原始文件、問對問題、別直接接受廠商給的結論。三件事都不需要專業背景,只需要一點耐心。

留下來的是一個判準。下次看到監管新聞裡出現獨立委員會、董事會問責、業者自律這些字,先問那個委員會是誰派的、能不能換掉執行長。這個問題比任何評分表難回答,也比評分表有用。

分享這則新聞

來源

相關 AI 新聞

線框地球置於斷裂的圓環中,一架無人機的輪廓在地球上投出瞄準錐
商業與產業

聯合國談了一週 killer robots,只換來「開始討論選項」

一週的會議換來一句「開始討論選項」。日內瓦沒有產生任何規則,只把期限寫進了文件。

熱度:1,180
上升的柱狀圖跨過一條平直的虛線目標,細小顆粒往上飄
商業與產業

Meta 把 2030 淨零承諾放進重新評估,碳排先多了近四成

報告沒有撤回承諾,只把時間表放進「重新評估」。數字顯示,AI 基礎建設的帳比承諾先到,而且先到很多。

熱度:1,280
向下的 K 線穿過一片晶圓,下方地板線斷裂
商業與產業

Nasdaq 100 單週跌 10.4%,AI 交易的定價方式鬆動了

五天裡,整個 AI 交易被重新估價。跌幅最大的一群,剛好也是指數裡權重最重的那一群。

熱度:1,950
下跌的 K 線圖,下方帳本線條上壓著一個放大鏡
商業與產業

Nvidia 一週少了約 9,000 億美元,SEC 同日被爆在看帳

股價連跌七個交易日,市場同時出現兩種解釋:創辦人離開,以及財報揭露方式被監管機關盯上。兩件事發生的時間重疊,原因卻要分開看。

熱度:1,950