연구인기

AI agent가 11분 만에 대학 서버를 뚫었다: Cairn zero-day 사건

공격자가 내린 지시는 "셸 접근 권한을 얻어라" 한 줄이었다. 방법은 AI agent가 골랐고, 성공까지 11분이 걸렸다.

김민준김민준
인기 지수: 1,520
여러 agent 노드가 서버 랙으로 이어지는 경로, 랙에는 열쇠 구멍과 침해 표시가 있다

공격자가 내린 지시는 "셸 접근 권한을 얻어라" 한 줄이었다. 방법은 AI agent가 골랐고, 성공까지 11분이 걸렸다.

Cairn을 쓴 공격은 11분 만에 서버를 열었다

사례는 아마존 위협 인텔리전스가 11월 20일 공개한 보안 분석 보고서에서 나왔다. 공격자는 여러 AI agent를 묶어 움직이는 도구에 목표만 주었고, agent들은 의료 영상 라벨링에 쓰이는 오픈소스 앱 MONAI Label에서 경로 우회 결함, 즉 아직 패치가 없는 zero-day를 스스로 찾아냈다.

API 구조를 파악하고 파일을 쓰기까지 걸린 시간은 약 11분이다. 사람이 정한 것은 목표 하나였다.

그 전에 16시간과 148번의 시도가 실패했다

성공 장면만 보면 오해한다. 같은 agent들은 먼저 Redis 서버를 16시간 동안 148개 동작으로 공략했고 실패했다. 복제 기능을 악용해 코드를 심고, 스크립트 샌드박스를 빠져나가고, 메모리를 망가뜨리는 시도까지 동원했다.

대학 GPU 서버에는 6시간 넘게 3만 개가 넘는 자격 증명 조합을 넣어 봤는데, 학교 홈페이지와 논문, 공개 문서에서 모은 실제 사용자 이름 80개를 조합한 것이었다.

Log4Shell 주입, 서버가 대신 요청을 보내게 만드는 SSRF, PostgreSQL과 SSH 암호 대입도 실패했다. 그런데 왜 실패한 시도가 중요한가?

이 사례에서는 성공보다 실패한 시도가 훨씬 많았다.

MONAI Label zero-day는 업로드 경로에서 열렸다

성공 경로는 단순했다. 업로드 엔드포인트의 파일 이름 파라미터를 이용한 경로 우회다. 파일 이름에 상위 경로를 넣어 서버가 원하는 위치에 파일을 쓰게 만드는 결함이다. 여기에 sitecustomize.py로 파이썬 역방향 셸을 심었다.

파이썬이 시작될 때 자동으로 읽히는 파일이라 다음 실행부터 살아난다. 마지막은 API 호출 한 번으로 root 권한이었다.

이후 사람 운영자는 두 번째 대학 네트워크로 프록시를 넣어 주고 다음 표적을 지시했다.

프록시도 사람이 넣었다.

MONAI Label 관리자는 아마존 신고를 받고 11월 18일 보안 업데이트와 권고문을 냈다.

Cairn은 악성코드가 아니라 공격 프레임워크다

Cairn은 여러 AI agent를 조율하는 오픈소스 침투 테스트 프레임워크로, 연구와 방어를 위해 만들어졌고 이번에 공격에 악용됐다.

선례도 있다. Gambit Security는 같은 도구로 9월에 최소 105건의 공격과 27개 기업 침해를 기록했다. 구글은 미국 항공우주 기업 공격에 Cairn이 쓰였다고 보고했다.

autonomous hacking은 어디까지 자동인가

아마존이 강조한 것은 자율성의 범위다. 표적 선정과 캠페인 설계는 사람 몫이었고, agent는 주어진 목표 안에서 방법을 찾아 실패하면 다음 방법으로 넘어갔다.

이 구분이 중요한 이유는 책임 소재다. "AI가 스스로 공격했다"는 문장은 편하지만 정확하지 않고, 연구자들은 사람이 방향을 잡고 agent가 실행한 사례로 본다.

중국 연계 행위자, 신뢰도는 중간이다

아마존은 간체 중국어로 작성된 프롬프트와 중국 표준시로 맞춰진 타임스탬프, 중국 본토 밖 동아시아 대학을 겨냥한 표적 선택을 근거로 중국 연계 행위자로 지목했지만 확신도는 중간으로 적었다.

캠페인은 9월 8일부터 이틀 남짓 이어졌고, 8일에서 10일 사이 기록에는 두 IP 주소가 남아 있다. 지금 차단 목록으로 쓰기에는 시점이 오래됐다.

단서는 공격자의 Cairn 인스턴스였다

아마존은 공격자가 인터넷에 인증 없이 열어 둔 자기 Cairn 인스턴스를 발견했다. 프롬프트와 세션 로그가 그대로 노출됐다.

국내 연구실에도 같은 구조가 있다. 공인 IP로 열린 Redis, GPU 서버, 원격 접속 포트다. 의료 AI 라벨링 도구를 쓰는 대학병원 연구 서버라면 더 그렇다.

남는 숙제는 패치 속도와 노출 목록이다

아마존의 권고는 자동 탐지와 자동 패치다. agent가 취약점을 찾고 악용하는 속도가 사람의 사고 대응 속도를 앞지르기 때문이다.

인식 교육을 한 번 더 하는 것으로는 부족하다. 결국 인터넷에 노출된 서비스 목록을 최신으로 유지하고, 패치가 나온 날 바로 적용할 수 있는 자동화를 갖추는 일이 사람이 직접 확인하는 절차를 늘리는 것보다 급하다는 뜻이다.

이 소식 공유하기

출처

관련 AI 뉴스

수직선과 교차하는 동심 나선 곡선, 선 위에 밝은 점들이 고정된 이미지
연구

Claude가 리만 가설을 증명했다는 주장, 스탠퍼드가 8시간 만에 답했다

리만 가설이 풀렸다는 소식이 아니다. 25만 쪽짜리 형식 증명이 컴파일됐고, 같은 날 사람이 쓴 경쟁 초안이 나왔다.

인기 지수: 1,860
한 모델 상자에서 다른 상자로 토큰 블록이 흐르는 깔때기와 일부 흐름을 막는 방패판
연구

OpenAI, 추론 탈취 성공률 54%에서 0.2%로 낮췄다: 남은 것은 업계 문제

OpenAI가 20일 공개한 방어 결과의 핵심은 두 쌍의 숫자다. 이전 요청에서 보호된 추론을 되살리는 공격 성공률은 54.0%에서 0.2%로, 현재 요청에서는 22.9%에서 0.9%로 떨어졌다. 먼저 조건을 붙여야 한다. 공격자 모델 6개를 상대로 한 회사 내부의 적응형 블랙박스 평가다.

인기 지수: 1,420
청록색 격자 무늬와 강조된 사각형 하나, 옆에 Lattice Standard Model 글자
연구

OpenAI, 격자 위 Standard Model 정의 후보안 공개

OpenAI가 11월 15일 올린 설명문은 Standard Model을 격자 위에서 정의하는 후보 구성안을 다룬다. 글쓴이 스스로 "원리상의 답"에 가깝다고 말하는 결과다.

인기 지수: 1,500
강조된 한 칸과 톱니 모양 신호선이 있는 초록 칩 격자 옆의 Blackwell fingerprints 문구
연구

중국 모델 여섯 개에서 블랙웰 흔적, 칩 위치는 미지

중국 모델 여섯 개의 가중치에서 엔비디아 블랙웰 흔적이 나왔다. 칩이 어디 있었는지는 말해 주지 않는다. 어떤 칩이 학습을 시작했는지만 알려 준다.

인기 지수: 1,250