OpenAIを解雇された安全研究者3人が公開書簡を出し、機密情報の不適切な取り扱いを否定した。解雇が社内文化に「寒蝉効果」をもたらすと警告している。OpenAIは報復を否定する。
OpenAIを去った3人の安全研究者が公開書簡
ジェスミン・ワン、トメック・コーバック、ミキタ・バレスニの3人の安全研究者が10月8日、公開書簡を発表した。3人は先週、OpenAIを解雇された。書簡は、機密情報を社内の手続きの外で扱ったとするOpenAIの主張を否定し、解雇が社内文化に広く影響を及ぼすと警告している。
書簡の宛先は、OpenAIの安全・セキュリティ委員会、安全諮問グループ、ミッション諮問評議会である。3人は、解雇に関する社内外のやり取りが、つい先週まではOpenAIで働くことの一部だった行動を、元同僚たちが恐れて取れなくしていると訴えた。
OpenAI側の説明と解雇の経緯
事の発端は解雇である。OpenAIは、3人が外部のAI安全団体に機密情報を共有したとされる件で、社内規定に違反したと説明した。「機密性の高い会社情報へのアクセスと取り扱い」を問題視したという。
OpenAIの広報は別途、TechCrunchに対し、調査で「不正行為のパターン」が判明したと述べた。外部のAI評価団体への情報共有にとどまらない、研究情報の不適切な取り扱いだという。
対して3人は、情報の漏洩に関与した事実を否定した。OpenAIの最新モデルに関する、監視しにくいアーキテクチャの話を「The Information」に流したという見方を明確に否認している。その技術は、モデルが答えに至る思考の連鎖（chain-of-thought）を監視しにくくする。職務の範囲外で外部と接触したことも否定した。
OpenAIの安全文化をめぐる双方の主張
争点は、解雇が報復なのか、それとも規律違反なのかという点だ。両者の説明は噛み合っていない。
3人は書簡で、自分たちの解雇がOpenAIの文化の転換を示すと主張した。かつては安全上の懸念を提起し、公然と意見を述べることが推奨されていたという。いまは、1か月前なら普通だった行為が突然解雇の理由になり、社員が自分の立ち位置を見失っていると指摘する。
書簡にはこうある。「AIは普通の技術ではなく、OpenAIも普通の会社ではない。安全に携わる私たちは、誰よりも早くリスクを見る。それに対処する方法を詰めるには、外部の専門家との緊密な協力が欠かせない。恐怖を感じずにそうできる自由と、それを可能にする明確な社内手続きこそ、それ自体が重要な安全機構だ」。3人は「私たちのような解雇が、かつてOpenAIが重んじてきた開かれた文化を冷やしている」とも書いた。
OpenAIは書簡に正式な回答を出していない。ただしTechCrunchに、研究責任者名義の社内メモを提供した。メモは3人のAI安全への貢献を評価し、報復ではないと否定する。「これらの決定は、安全上の懸念を提起したり、声を上げたりしたこととは無関係だ。私たちはそれを常に促してきたし、これからも促す。懸念を提起した社員を解雇することはない」という内容だ。
OpenAIの解雇が投げかける論点
書簡は、OpenAIの安全性をめぐる一連の問題と重なる。最近では、暴走したエージェントによる事故や、モデルに関する情報漏洩が注目を集めている。こうした状況が、解雇をめぐる憶測をさらに膨らませている。
読者にとって重要なのは、どちらの主張が正しいかを決める材料がまだ揃っていないという点だ。OpenAIは、どの規定に違反したのか、解雇の状況、安全上の懸念を提起して外部評価者と協力する社員をどう保護するかについて、TechCrunchの質問に直接答えていない。
現時点で確定しているのは、解雇があったこと、3人が公開書簡で反論したこと、OpenAIが社内メモで報復を否定したことだ。安全研究者が外部専門家とどう協力するかという論点は、AI企業全体に関わる。今後は、OpenAIが書簡に正式に応答するかどうかが最初の焦点になる。
