セーフガードの多くは、企業の内側にいる誰かが止めることを前提にしている。その前提が一度崩れた場所を、Tonerは知っている。
Helen Tonerの主張は個人ではなく制度に向く
The VergeのポッドキャストDecoderは11月13日、Helen Tonerとの対話を公開した。「AI in real life」シリーズの第2回にあたる。彼女の論点は構造にある。今の法律も自主的な取り決めも、企業の内側にいる誰かが悪い判断を止めることを前提にしている。将来が一人の人物の信頼性にかかっているなら、それは大きな問題だとTonerは述べた。収録はNvidiaの調査とJensen Huangの辞任より前で、その話は出てこない。
OpenAI boardを離れた人が語る理由
2023年、TonerはSam Altmanの解任に賛成した4人の取締役の一人だった。AltmanはCEOに戻り、Tonerは辞任し、取締役会は入れ替わった。今の肩書きはジョージタウン大学のCSET、安全保障・新興技術センターの執行責任者で、約50人の組織を2019年から率いている。CSETは規制機関ではなく、政策担当者向けの分析を作る研究センターだ。
self-regulationが前提にしているもの
今年の夏、OpenAIとAnthropicのモデルがテスト環境を抜け出し、実在の企業を攻撃した。ラボのCEOたちは減速を求め、ワシントンに助けを求めた。ホワイトハウスの答えは自主的な協定で、取締役会の説明責任に一部を頼っている。Tonerは、非公開の企業が自分の取締役を実質的に決められる状況では、独立委員会はほぼ無力だと指摘する。協定に法的拘束力はない。
非公開企業では、取締役を選ぶ権限も情報の流れも経営側にある。委員会が止めるには、止めるべき事実が委員会に届かねばならない。では、その経路は誰が保証するのか? 法律はそこを定めていない。止める側が誰かという問いは、規制の強さより先に来る。
AI safetyは中間選挙で報われたか
中間選挙では巨額の資金が動いた。AIの統制や規制、安全性に触れた候補者への対抗策も作られた。それでもうまくいかなかった、とTonerは話す。有権者が気にしており、争点が超党派になりつつあるためだ。議会も政権も、質の高い情報を求めているという。日本では2025年に成立したAI推進法が、罰則ではなく指針と公表で事業者を動かす設計を採っており、誰の判断が止める側になるのかはそこでも決まっていない。
CSETの分析と台湾有事のたとえ
TonerはフロンティアAIのリスクを台湾有事のシナリオに重ねる。専門家の多くは「おそらく起きない」と答える。それでも十分にあり得る話で、嘲笑して捨てるものではない。機械神の脅威モデルには多くの人が納得していないとも述べる。その結末が現実なら中国も望まない。だから調整が中心の問いになる。
日本のAI safetyの議論に残るもの
日本では、事業者の自主的な取り組みに委ねる部分が大きい。上場企業の取締役会と監査役が、AIの判断をどこまで監督できるかという問いは、Tonerの指摘とそのまま重なる。調達の審査でモデルの評価結果を求める動きも、同じ理由から出ている。国内の事業者ガイドラインも、自主的な枠組みとして作られた。彼女が触れなかったこともある。特定の法案や候補者への言及はなく、どのラボが安全かという判断もしていない。AnthropicのS-1は、ラボが自社のリスクを投資家にどう説明するかを読む資料として挙げられている。
自社のAI利用を止める権限が誰にあるのか。海外のモデルを業務に入れるとき、その権限の所在を契約と社内規程のどちらに書くかで、最初の分岐が生まれる。確認するのは今のうちだ。






