Frontier Model Forum

Forum はフロンティア能力評価に関する技術報告を出した。化学、生物、放射線、核の兵器製造にモデルが手を貸せるか、攻撃的なサイバー作戦を支えられるか、危険な自律行動を示すかを調べる試験である。報告は現行実務の断面であり、確定した標準ではない。この率直さは役に立つ。手法が収束している場所と、各社がまだ手探りしている場所が見える。

2025年3月、Forum は脆弱性、脅威、懸念される能力について署名企業が情報を交換できる自発的な協定を発表した。加盟企業はこれまでに脱獄のリポジトリ、敵対的入力の知見、攻撃試行の指標を共有してきた。知的財産を守り、独占禁止法の線も越えない法務・技術の仕組みがあり、だからこそこの取り決めは実際に回る。

AIセーフティ基金は2023年10月に始まり、1,000万ドル超の拠出が集まった。資金は創設した研究所と慈善団体から出ている。助成は2024年11月と2025年12月の2回実施され、Meridian Instituteが2025年半ばに活動を終えた後は Forum が直接運営する。残りは研究成果のボトルネックを解く狭い課題に充てる。

掲げる目標は、脅威モデル、評価手法、閾値、緩和策について共通理解を作り、それをAI標準の議論に流し込むことだ。成果物は新興実務の文書であり、正式な規則ではない。読む側からすれば、規制当局が書き下ろす数か月前に、研究所が何を妥当と見ているかを先に知れる。

ワークショップは研究所、大学の研究チーム、市民社会、行政の担当者を集める。Forum は情報共有をこれらの間の橋として使い、加盟外のフロンティア企業とも自発的な交換を試す考えを示している。対話の場を設ける力はソフトパワーだ。小さな研究所や規制当局が、報道発表ではなく信頼できる密室を必要とするときに効く。

加盟にはフロンティアAIの能力の証明、展開を遅らせたり停止させたりできる安全審査の文書化、外部評価への支援、3年以上の資金拠出が要る。条件は公開され、年次報告書も出る。基準は高く、審査は同業者どうしで行う。だからこの条件は、個々のモデルの安全性よりも、誰が内側にいるかを語っている。