研究注目

AI agentがMONAI Labelのzero-dayを突き、大学サーバーを11分で掌握

攻撃者はAI agentに「シェルアクセスを取れ」とだけ指示した。エージェントはMONAI Labelの未知の脆弱性を見つけ、APIの把握からファイル書き込みまで約11分で進んだ。

佐藤健太佐藤健太
人気度:1,520
エージェントのノードが連なり、経路がサーバーラックへつながる。ラックには鍵穴と侵入の痕跡がある

攻撃者はAI agentに「シェルアクセスを取れ」とだけ指示した。エージェントはMONAI Labelの未知の脆弱性を見つけ、APIの把握からファイル書き込みまで約11分で進んだ。

CairnのAI agentは11分でAPI把握から書き込みへ

Amazon Threat Intelligenceが11月20日に公表した分析を、BleepingComputerとThe Registerが同日に報じた。攻撃者はCairnという、複数のAI agentを束ねるツールを使った。

エージェントに与えられた指示は「シェルアクセスを取れ」だけだった。ここが重要だ。手段の選択はエージェントに委ねられた。autonomous hacking(自律型のハッキング)と呼ばれる領域である。

では、エージェントはどこまで自分で決めたのか?

Cairnの成功の前に、16時間と148回の失敗があった

Cairnが最初から成功したわけではない。Amazonの報告によれば、エージェントはあるRedisサーバーに対して約16時間、148回の操作を続けた。レプリケーションを悪用した不正なコードの読み込み、スクリプトのサンドボックスからの脱出、設定ファイルの書き換え、メモリの破壊を試した。すべて失敗した。

別の作戦は大学のGPUサーバーに向かった。6時間以上をかけ、学校の公開サイトや論文から80個の実在ユーザー名を集め、3万通りを超える認証の組み合わせを試した。こちらも通らなかった。Log4Shellの注入、同じネットワーク上のQdrantへのSSRF、PostgreSQLとSSHへの総当たりも不発に終わっている。

試行

結果

Redisの複製悪用とサンドボックス脱出

失敗

大学GPUサーバーへの3万通り超の認証試行

失敗

Log4Shell、QdrantへのSSRF、PostgreSQLとSSHへの総当たり

失敗

MONAI Labelのパストラバーサル

成功

MONAI Labelのzero-dayはこう突かれた

突破口はMONAI Labelだった。医用画像にラベルを付ける研究向けのオープンソースアプリで、AIを使って作業を助ける。zero-day(修正プログラムがまだ存在しない脆弱性)がそこにあった。

エージェントはまずアプリのフレームワークを特定し、APIのエンドポイントを整理した。ファイル名を渡せるアップロード用の口を見つけ、パストラバーサルの欠陥を試し、脆弱だと確認する。成功した経路は、その口から任意のファイルを書ける状態に持ち込むというものだった。APIの把握から書き込みまで、約11分である。

次のセッションでは、Pythonが起動時に自動で読むsitecustomize.pyへリバースシェルを書き込み、APIを1回叩いてroot権限を得た。その後、人間のオペレーターが2つ目の大学ネットワークへのプロキシを渡し、次の標的を指示している。

Cairnはマルウェアではなく、攻撃フレームワークである

Cairn自体は悪意あるソフトではない。複数のエージェントを調整するための研究用ツールで、防御側の検証にも使われる。今回のように悪用された、というのが正確なところだ。

前例はある。Gambit Securityは9月、中国系のオペレーターがCairnを使い、少なくとも105件の攻撃を仕掛け、27社以上を侵害したと報告した。カード情報を盗む作戦だった。Googleは米国の航空宇宙企業への攻撃でCairnが使われたと伝えている。

Cairn攻撃の中国系という帰属は「中程度の確度」

Amazonはこの活動を中国系のアクターに帰属させている。ただし確度は「中程度」だ。根拠は、簡体字中国語で書かれたプロンプト、中国標準時に設定されたタイムスタンプ、標的の選び方である。

時期は9月8日から10日にかけての約48時間。標的は中国本土以外の東アジアの大学だった。関連するIPアドレスとして2つが挙がっているが、いずれも9月時点の履歴であり、ブロックリストとして今も有効とは限らない。

発見の糸口は攻撃者側のCairnインスタンス

Amazonがこの作戦を把握した経路も、攻撃の巧さとは対照的だった。攻撃者自身がCairnのインスタンスを認証なしでインターネットに公開しており、プロンプトとセッションのログがそのまま読める状態だった。

防御側に残るCairn対策、パッチの速度という宿題

Amazonの提言は、手作業の調査より自動検知とパッチ適用に寄せるというものだ。エージェントは人間のインシデント対応より速く反復する。だからこそ、外部に露出しているサービスの棚卸しと、更新を当てる速度が効く。

日本でも対岸の話ではない。大学や研究機関は医用画像AIを研究で使い、GPUサーバーを学外に公開する場面がある。MONAI Labelの修正は11月18日に出ている。JPCERT/CCやIPAの注意喚起を確認し、使っていないサービスを閉じる作業から始めたい。

このニュースを共有

出典

関連AIニュース

同心円状の螺旋を縦線が横切り、その線上に明るい点が並ぶ
研究

ClaudeがRiemann hypothesisを証明したという主張と、8時間後の反論

Anthropicに所属する数学者Levent Alpöge氏は11月20日、Claudeと共同でRiemann hypothesisの証明を見つけたと自身のサイトに書いた。Anthropicは公式には認めていない。

人気度:1,860
1つのモデルから別のモデルへ小さなトークンのブロックを運ぶ漏斗と、流れの一部を遮る盾
研究

OpenAI、推論抽出の成功率を54.0%から0.2%へ、防御の4層を公開

OpenAIは11月20日、adversarial distillationへの対策を公開した。内部の適応型ブラックボックス評価で、保護された推論を過去のリクエストから取り出す成功率は54.0%から0.2%に下がった。数字は自社測定である。

人気度:1,420
シアンの格子模様と強調された1マス、そばに「Lattice Standard Model」の文字
研究

OpenAIとGPT-6 Astra、標準模型の定義に届いたのは「候補」まで

OpenAIが11月15日に公開したのは、素粒子の標準模型を格子上で定義する候補だ。土台は10月6日のプレプリントで、査読は通っていない。予言された新粒子もなく、測定値が改善したわけでもない。

人気度:1,500
緑のチップ格子の1マスが光り、ぎざぎざの信号線、隣にBlackwell fingerprintsの文字
研究

中国製モデルに残ったBlackwellの指紋、重みからGPUの型を読み取る

ある研究者が、6つの中国製モデルの重みからNvidiaのGPUの型を読み取ったと発表した。手がかりは学習前の乱数の埋め方に残る。ただし、チップがどこにあったかは分からない。

人気度:1,250