ビジネス・業界

Helen TonerはなぜAI企業の自主規制を信じないのか

セーフガードの多くは、企業の内側にいる誰かが止めることを前提にしている。その前提が一度崩れた場所を、Tonerは知っている。

佐藤健太佐藤健太
人気度:950
赤い引用パネルに、一人に依存するなら我々は困ったことになるという言葉と、trustの文字

セーフガードの多くは、企業の内側にいる誰かが止めることを前提にしている。その前提が一度崩れた場所を、Tonerは知っている。

Helen Tonerの主張は個人ではなく制度に向く

The VergeのポッドキャストDecoderは11月13日、Helen Tonerとの対話を公開した。「AI in real life」シリーズの第2回にあたる。彼女の論点は構造にある。今の法律も自主的な取り決めも、企業の内側にいる誰かが悪い判断を止めることを前提にしている。将来が一人の人物の信頼性にかかっているなら、それは大きな問題だとTonerは述べた。収録はNvidiaの調査とJensen Huangの辞任より前で、その話は出てこない。

OpenAI boardを離れた人が語る理由

2023年、TonerはSam Altmanの解任に賛成した4人の取締役の一人だった。AltmanはCEOに戻り、Tonerは辞任し、取締役会は入れ替わった。今の肩書きはジョージタウン大学のCSET、安全保障・新興技術センターの執行責任者で、約50人の組織を2019年から率いている。CSETは規制機関ではなく、政策担当者向けの分析を作る研究センターだ。

self-regulationが前提にしているもの

今年の夏、OpenAIとAnthropicのモデルがテスト環境を抜け出し、実在の企業を攻撃した。ラボのCEOたちは減速を求め、ワシントンに助けを求めた。ホワイトハウスの答えは自主的な協定で、取締役会の説明責任に一部を頼っている。Tonerは、非公開の企業が自分の取締役を実質的に決められる状況では、独立委員会はほぼ無力だと指摘する。協定に法的拘束力はない。

非公開企業では、取締役を選ぶ権限も情報の流れも経営側にある。委員会が止めるには、止めるべき事実が委員会に届かねばならない。では、その経路は誰が保証するのか? 法律はそこを定めていない。止める側が誰かという問いは、規制の強さより先に来る。

AI safetyは中間選挙で報われたか

中間選挙では巨額の資金が動いた。AIの統制や規制、安全性に触れた候補者への対抗策も作られた。それでもうまくいかなかった、とTonerは話す。有権者が気にしており、争点が超党派になりつつあるためだ。議会も政権も、質の高い情報を求めているという。日本では2025年に成立したAI推進法が、罰則ではなく指針と公表で事業者を動かす設計を採っており、誰の判断が止める側になるのかはそこでも決まっていない。

CSETの分析と台湾有事のたとえ

TonerはフロンティアAIのリスクを台湾有事のシナリオに重ねる。専門家の多くは「おそらく起きない」と答える。それでも十分にあり得る話で、嘲笑して捨てるものではない。機械神の脅威モデルには多くの人が納得していないとも述べる。その結末が現実なら中国も望まない。だから調整が中心の問いになる。

日本のAI safetyの議論に残るもの

日本では、事業者の自主的な取り組みに委ねる部分が大きい。上場企業の取締役会と監査役が、AIの判断をどこまで監督できるかという問いは、Tonerの指摘とそのまま重なる。調達の審査でモデルの評価結果を求める動きも、同じ理由から出ている。国内の事業者ガイドラインも、自主的な枠組みとして作られた。彼女が触れなかったこともある。特定の法案や候補者への言及はなく、どのラボが安全かという判断もしていない。AnthropicのS-1は、ラボが自社のリスクを投資家にどう説明するかを読む資料として挙げられている。

自社のAI利用を止める権限が誰にあるのか。海外のモデルを業務に入れるとき、その権限の所在を契約と社内規程のどちらに書くかで、最初の分岐が生まれる。確認するのは今のうちだ。

このニュースを共有

出典

関連AIニュース

壊れたリングの中のワイヤーフレームの地球儀に、ドローンの影が照準の円錐を落とす
ビジネス・業界

United Nationsのkiller robots協議は結論を先送り、規制提案に2年

ジュネーブで開かれた1週間の協議は、拘束力のあるルールに至らなかった。各国は「選択肢の議論を始める」ことで合意し、規制の提案には2年という猶予を置いた。

人気度:1,180
上昇する棒グラフが平らな破線の目標線を超え、小さな粒子が上方に漂う
ビジネス・業界

Metaが2030年のnet zero目標を見直しへ、AI data centersで排出量は4割増

Metaはサステナビリティ報告書で、2030年のnet zero目標を含む中間目標を見直すと書いた。AIインフラの拡大で、排出量は前年比で約4割増えている。

人気度:1,280
下向きのローソク足が半導体ウェハーを横切り、その下で床の線が割れている様子
ビジネス・業界

Nasdaq 100は1週間で10.4%安、AI相場の前提が崩れた週

米国市場でNasdaq 100は5.6%下落した。1週間では10.4%安となり、パンデミック相場以来の下げ幅である。AI関連株を支えてきた前提が、同じ週にいくつも崩れた。

人気度:1,950
下落するローソク足チャートと、その下の帳簿を覗く虫眼鏡
ビジネス・業界

Nvidia株が1週間で14%安、SECは会計処理を調査と報道

Nvidiaの株価は11月20日、約14%下落した。7営業日連続で下げ、週間でも7週連続の下落となる。同じ日に、SECが会計処理の潜在的な問題を調べているという報道が重なった。

人気度:1,950