비즈니스 및 산업

OpenAI, Hacktron에 레드팀 맡겼다: 표적은 제품 사이 연결부

OpenAI가 자사 시스템을 공격할 외부 팀으로 Hacktron을 불렀다. 표적은 모델과 바깥 서비스가 맞물리는 자리다.

김민준김민준
인기 지수: 1,180
빨간색으로 표시된 끊어진 연결 하나가 있는 발광 노드 네트워크

OpenAI가 자사 시스템을 공격할 외부 팀으로 Hacktron을 불렀다. 표적은 모델과 바깥 서비스가 맞물리는 자리다.

OpenAI Hacktron, 계약의 범위

파트너십의 내용은 넓게 잡혀 있지 않다. OpenAI는 11월 6일 자사 블로그에서 Hacktron과 함께 시스템 취약점을 찾겠다고 밝혔다. 양쪽 엔지니어와 연구원이 우선순위가 높은 영역을 같이 고르고, 그중에서도 OpenAI 시스템이 외부 서비스와 주고받는 지점을 먼저 본다.

계약 금액과 기간은 공개되지 않았다. 대신 Hacktron이 프런티어 모델에 접근하는 통로가 Daybreak Red로 넓어진다는 점이 함께 적혀 있다.

OpenAI red team을 밖에서 구한 이유

보안 모델을 파는 회사가 왜 굳이 밖에서 공격자를 불렀을까? 사내 팀은 자기가 설계한 구조를 이미 알고 있다. 반면 밖에서 온 팀은 문서에 적히지 않은 연결부에서 사고를 낸다. 사내 보안팀이 아무리 꼼꼼하게 코드를 훑어도, 고객이 쓰는 캘린더나 메신저, 저장소와 맞닿는 권한 설정에서 생기는 문제는 실제로 그 조합을 써 본 사람이 아니면 잘 보이지 않는다. 11월 5일 공개된 GPT-6 Cyber는 한 모델이 공격 코드를 쓰고 수정안까지 내놓을 수 있음을 보여줬다. 그 능력은 코드 더미 안에서 강하다.

제품과 제품 사이, 권한과 권한 사이는 벤치마크 점수로 재기 어렵다. 이번 파트너십이 겨냥하는 곳이 정확히 그 틈이다.

Hacktron이 7월에 보여준 연쇄 공격

상대를 고른 이유는 실적이다. Hacktron은 9월 13일 공개한 자체 분석 글에서 지난 7월 25일 서로 다른 두 개의 치명적 취약점을 이어 붙여 OpenAI 직원 여러 명의 ChatGPT 계정을 장악했다고 밝혔다. 하나는 Discourse로 운영되는 커뮤니티 포럼의 이미지 처리 경로에 있던 원격 코드 실행 결함이고, 다른 하나는 OpenAI 싱글 사인온 문제였다.

사슬은 포럼에서 ChatGPT와 Codex로, 다시 연결된 GitHub 통합으로 번졌다. Hacktron은 OpenAI 내부 모노레포에 무해한 풀 리퀘스트를 하나 열어 접근을 증명하고 테스트를 멈췄다. 신고는 Bugcrowd 프로그램과 Discourse 양쪽으로 들어갔다.

OpenAI는 신고를 받고 약 14시간 만에 수정했다. 포상금 6,500달러는 9월 1일에 지급됐다. 이 서술은 Hacktron 쪽 기록이며, OpenAI가 따로 정리한 사건 보고서는 아직 없다.

Daybreak Red가 열어주는 것

접근 권한의 성격을 오해하면 안 된다. Daybreak는 8월 10일 공개된 프로그램으로, Red는 승인된 취약점 연구와 공격 검증, 보안 테스트를 위해 따로 학습한 사이버보안 모델에 접근하는 등급이다. OpenAI는 대부분의 방어자에게는 Blue에서 시작하라고 권한다.

문은 좁다.

승인된 개인과 조직만 들어온다. OpenAI는 Daybreak Red를 받은 팀이라도 승인된 범위 안에서만 모델을 쓸 수 있도록 신원 확인과 계정 보안, 사용 기록 모니터링, 허용 범위 제한, 법적 확인서를 함께 요구한다. 신청서를 내면 누구나 받는 공개 상품이 아니다.

OpenAI security partnership의 빈칸

결과는 아직 숫자로 나오지 않았다. 찾은 취약점 수, 지급된 포상금, 다음 점검 일정 모두 백지다. 찾은 취약점 개수도, 지급한 포상금도, 일정도 공개되지 않았다. Hacktron이 7월 작업에서 완전 자율로 움직인 것도 아니었다. Unite.AI는 Hacktron의 이전 설명을 인용해 숙련된 사람의 개입이 여전히 중요했다고 전한다.

OpenAI vulnerability research가 옮겨간 곳

이번 발표는 취약점 연구의 무게 중심이 어디로 가는지 보여준다. 모델 자체의 공격 성능은 이미 상품이 됐고, 남은 구간은 통합이다. 사내 도구와 외부 SaaS를 잇는 권한, 에이전트가 대신 실행하는 동작, 그 사이에 남는 로그가 다음 표적이다.

국내 팀도 예외가 아니다. 협업 도구로 카카오워크나 네이버웍스를 쓰고, 코드는 별도 저장소에 두고, 알림은 또 다른 앱으로 받는 식으로 연결부가 이미 여러 겹이다. OpenAI가 권고한 것도 같은 방향이다. 보안 작업을 운영 환경과 인터넷에서 떼어놓고, 에이전트가 실행하기 전에 사람이 확인하고, 위험도가 높은 작업에는 감독을 남긴다.

다음에 통합을 붙일 때 물어야 할 질문은 하나다. 이 연결이 무엇을 할 수 있는가.

이 소식 공유하기

출처

관련 AI 뉴스

깨진 고리 안의 와이어프레임 지구, 드론 실루엣이 조준 원뿔을 드리우는 이미지
비즈니스 및 산업

유엔 killer robots 회의, 규칙 없이 끝났다: 남은 것은 2년 위임

일주일 회의의 결과는 "옵션 논의를 시작한다"였다. 구속력 있는 문장은 채택되지 않았다.

인기 지수: 1,180
목표 점선을 넘어 상승하는 막대 그래프와 위로 떠오르는 작은 입자
비즈니스 및 산업

Meta, 2030 net zero 목표 재검토: 배출량은 1년 새 40% 늘었다

목표를 지웠다는 말은 아니다. 회사 스스로 일정과 중간 목표를 다시 계산 중이라고 적었다.

인기 지수: 1,280
하락하는 캔들 차트 선이 칩 웨이퍼를 가로지르고, 아래에서 바닥선이 끊어진 이미지
비즈니스 및 산업

AI selloff로 Nasdaq 100이 한 주에 10.4% 밀렸다

AI 관련주가 한 주 만에 값을 다시 매겼다. 지수 펀드를 들고 있는 사람에게 이번 주는 뉴스가 아니라 잔고의 문제다.

인기 지수: 1,950
원장 줄 위에 돋보기가 놓인 하락 캔들 차트
비즈니스 및 산업

Nvidia 주가 14% 급락, 같은 날 나온 SEC 회계 검토 보도

Nvidia 주가가 20일 14%가량 빠졌다. 7거래일 연속 하락이자 7주 연속 주간 하락으로, 2008년 이후 가장 긴 기록이다. 같은 날 SEC가 회계 문제를 살펴본다는 보도가 나왔지만, 아직 혐의도 결론도 없다.

인기 지수: 1,950