研究熱門

AI agent 花 11 分鐘打穿大學伺服器,Cairn 找到 MONAI Label 的零日漏洞

操作者只交代了一句「想辦法拿到 shell」,方法留給代理自己決定。真正值得讀的,是成功之前那 148 次失敗。

陳柏宇陳柏宇
熱度:1,520
一疊以路徑相連的代理節點通往伺服器機櫃,機櫃上有鑰匙孔與破口標記

操作者只交代了一句「想辦法拿到 shell」,方法留給代理自己決定。真正值得讀的,是成功之前那 148 次失敗。

MONAI Label 的 11 分鐘:從接口地圖到寫入檔案

Amazon Threat Intelligence 在 11 月 20 日發布報告,由 CISO CJ Moses 署名。報告重建了一段入侵:一組 AI agent 接到「取得 shell 權限」的指令,自己找出方法。牠們先辨識出應用框架,摸清 API 端點,找到一個帶檔名參數的上傳接口,再把這個接口當成進入點。

接著是關鍵的 11 分鐘。代理測試路徑穿越(path traversal),確認可以穿越,然後寫入任意檔案。從測繪 API 到寫入檔案,全程約 11 分鐘。

中招的軟體是 MONAI Label。它是開源專案,用 AI 幫研究者標註醫學影像,CT 與 MRI 都支援。很多大學醫院與研究單位用它整理資料集。它不冷門,而這一點讓後面的數字更難看。

那個被穿越的缺口,是一個此前未知的 zero-day,也就是零日漏洞。

路徑穿越的原理不複雜。上傳接口收下檔名,卻沒有檢查裡面有沒有「../」這種往上跳目錄的字串,於是檔案就落到程式原本不該碰到的地方。這類漏洞在二十年前就常見,防禦方式也早就寫進教材,它還出現在這裡,說明程式碼老舊與部署疏忽比手法新奇更常決定成敗。

成功之前的 148 個動作

同一批代理在別的目標上踢到鐵板。對一台 Redis 伺服器,牠們花了約 16 小時,執行了 148 個連續動作。手法包括濫用 replication 載入未授權程式碼、跳出腳本沙箱、改寫設定檔、破壞記憶體。全部無效。

另一個目標是大學的 GPU 伺服器。六個多小時裡,代理從學校公開網站、論文與文件拼出 80 個真實帳號,再跑超過 3 萬組帳密組合。一樣沒進去。

中間還穿插 Log4Shell 注入、對同機 Qdrant 的 SSRF,以及對 PostgreSQL 與 SSH 的密碼噴灑。這些嘗試的價值,跟成功那段一樣高。它說明代理的長處是不放棄,會把同一個目標拆成幾十種走法輪流試,而不是一次就中。

攻擊鏈:Cairn 與 sitecustomize.py

第一次寫檔只是取得立足點。後續的會話裡,代理把一段 Python 反向 shell 寫進 sitecustomize.py,一個容易被忽略的設定檔。這個檔案會在 Python 啟動時自動載入,等於下次執行就開門。牠們再呼叫一個 API 端點,把權限拉到 root。

然後人類操作者接手,給代理一個代理伺服器,指向第二所大學的網路。那裡跑著同一套有漏洞的軟體,他並指定下一批機器。目標由人選,路線由代理自己找。

Amazon 把漏洞通報給 MONAI Label 維護團隊。11 月 18 日,修補與安全公告同時釋出。

Cairn 是開源工具,不是惡意程式

Cairn 是一套開源滲透測試框架,能協調多個 AI agent 一起工作,原本為研究與防禦而寫。它本身合法,被濫用的是部署方式與意圖。

它出現的紀錄不只這一筆。Gambit Security 追蹤到一名中國操作者用 Cairn 發動至少 105 次攻擊,入侵至少 27 家公司,那是一場盜卡行動。同一批人還用了另外兩套開源 AI 框架。Google 也回報過 Cairn 被用於攻擊一家美國航太機構,兩邊的受害者產業完全不同。

歸因:中國關聯、中等信心

Amazon 以中等信心把行動歸因於中國關聯的行為者。依據有三項:提示詞用簡體中文,時間戳設為中國標準時間,目標選擇有明確地域偏好。中等信心的意思是證據指向同一個方向,但沒有到可以直接指名的地步。報告裡沒有公布組織名稱。

受害者是中國大陸以外、東亞地區的大學,不在中國境內。時間集中在 9 月 8 日到 10 日,前後約 48 小時的窗口。兩個 IP 曾在這段時間出現,分別是 142.4.98.145 與 142.4.107.34。它們是九月的歷史指標,不該直接當成封鎖清單使用。

Amazon 怎麼發現這場行動

發現過程有點諷刺。Amazon 是在網際網路上找到攻擊者自己架設的 Cairn 實例。那台機器沒有設認證,任何人都能讀。提示詞與會話紀錄因此曝光,整條攻擊鏈才拼得出來。

同一週,ITPro 報導 AI 又挖出一個十年前的漏洞,這次在 nginx。兩件事放在一起看,訊號很清楚:工具在進步,掛在網路上的老服務沒有。

autonomous hacking 改變的是補丁節奏

Amazon 給防守方的建議很具體:把人力從手動調查移到自動偵測與修補,因為代理的嘗試次數不是人力能跟上的量級,等報告寫完通常已經太慢。理由不複雜。代理可以在幾小時內試完上萬種走法,人類的事故應變追不上這個速度。

對台灣的學校與醫院,這件事距離不遠。MONAI Label 這類影像標註工具常裝在研究室或院內伺服器,對外開放的接口不一定有人盤點。真正該問的問題是:哪些服務掛在公網上,版本更新由誰負責?

如果答不出來,代理不需要很聰明,也能找到那個接口。

分享這則新聞

來源

相關 AI 新聞

同心螺旋曲線被一條垂直線穿過,線上釘著幾顆亮點
研究

Claude 被宣稱證出黎曼猜想,幾小時後 Stanford 拿出人類版本

一位受雇於 Anthropic 的數學家在個人網站貼出宣告,公司沒有背書。幾小時後,Stanford 丟出人類版本,兩份稿子都還沒被學界接受。

熱度:1,860
漏斗把小型詞元方塊從一個模型盒送到另一個,中間有一塊盾牌擋住部分流量
研究

OpenAI 把推理被竊的成功率從 54% 壓到 0.2%,但這是自家黑箱測試

一組內部紅隊數字,說明保護思維鏈有多難,也說明為什麼 OpenAI 要把這件事拉到國家安全層級來談。

熱度:1,420
綠色晶片格狀圖,其中一格被標亮,旁邊是一條鋸齒訊號線,寫著 Blackwell fingerprints
研究

Blackwell 指紋鑑識:六個中國模型的權重洩漏了它們用哪張卡

訓練開始前,GPU 把數十億個空位填成隨機數字,填的方式會留下核心數的痕跡。有人把這道痕跡從六個中國模型的權重裡挖出來,24 個對照模型全部命中。

熱度:1,250
無線電塔向連網裝置組成的網格送出訊號弧線
研究

Nvidia 開源 5G 與 6G 工具下載破百萬,研究機構為什麼開始預設用它

下載量只是一個訊號。真正的變化是無線研究現在預設從哪裡開始,以及沒有電信背景的人也能先把想法跑一遍。

熱度:1,275