OpenAI가 20일 공개한 방어 결과의 핵심은 두 쌍의 숫자다. 이전 요청에서 보호된 추론을 되살리는 공격 성공률은 54.0%에서 0.2%로, 현재 요청에서는 22.9%에서 0.9%로 떨어졌다. 먼저 조건을 붙여야 한다. 공격자 모델 6개를 상대로 한 회사 내부의 적응형 블랙박스 평가다.
OpenAI가 내놓은 숫자의 조건
평가는 두 경우를 나눠 쟀다. 하나는 이전 대화에서 나온 보호된 추론을 다시 끌어내는 공격, 다른 하나는 현재 요청에서 같은 내용을 빼내는 공격이다. GPT-6 Astra에 원래 안전장치를 둔 상태와 GPT-6.2 Astra에 개선된 안전장치를 둔 상태를 비교했다. 새 방어에서는 공격 유형별 성공률이 1% 아래로 내려갔고, 회사는 같은 개선을 GPT-6 Astra에도 적용한다고 밝혔다.
adversarial distillation은 평범한 학습의 그림자다
증류는 특별한 공격이 아니다. 성능이 좋은 교사 모델의 출력을 학생 모델이 따라 배우게 하는 오래된 학습 기법이다. 문제는 허가 없이 쓰일 때 생긴다. 최첨단 모델의 출력으로 비슷한 능력을 옮겨 받고, 그 모델에 붙은 안전장치는 가져가지 않는 방식이다. OpenAI가 겨냥하는 것은 이 비대칭이다. 회사는 9월에도 암호화된 추론을 대화 사이로 옮긴 뒤 읽을 수 있는 형태로 달라고 요구하는 수법을 공개한 바 있다.
chain-of-thought가 표적인 이유
왜 하필 추론 흔적인가? 모델이 속으로 쓰는 추론에는 최종 답에 남지 않는 중간 단계가 들어 있다. 그 단계가 학습 데이터로 쓸모가 크다. OpenAI의 사이버 능력 전이 연구에서는 정확한 추론 흔적으로 학습한 학생 모델이 요약본으로 학습한 모델보다 지도 미세조정 뒤에 나은 성적을 냈다. 가벼운 강화학습을 거친 뒤 가장 큰 추론 예산에서도 앞섰다. 낮은 예산에서는 요약본 쪽이 앞섰다는 조건이 붙는다.
OpenAI의 네 겹 방어가 작동하는 순서
방어는 요청 단위와 캠페인 단위로 나뉜다. 먼저 모델 자체를 적대적으로 학습시켜 추출 시도를 알아보고 거절하게 만든다. 다음은 입력 분류기다. 이어 출력 분류기가 어시스턴트 메시지와 도구 호출 인자를 스트리밍과 비스트리밍 응답 모두에서 검사한다. 추론이 답변 밖으로 새는 통로가 따로 있기 때문이다. 마지막으로 API 규칙이 추론을 그것을 만든 대화 이력에 묶고, 앞선 메시지가 수정되면 뒤따른 추론을 버린다. 안전장치가 약한 구형 모델이 GPT-6.2 Astra와 Sol의 추론을 읽는 것도 막는다.
reasoning extraction 캠페인의 규모
OpenAI는 조율된 추출 시도를 벌인 계정들을 조사해 네트워크 단위로 제재한다. 주당 수천에서 수만 개 계정을 차단하고, 침해 지표를 다른 제공자와 공유한다. 차단 규모는 여름 이후 눈에 띄게 늘었다. 계정 하나를 막는 것으로 끝나지 않는 이유는 같은 시도가 새 계정으로 다시 오기 때문이다.
GPT-6.2 Astra 방어를 국가안보로 부르는 이유
회사는 이 문제를 산업 스파이 수준으로 다룬다. 2월 의회 브리핑에서는 DeepSeek가 미국 최첨단 모델을 증류하려 한다는 정황을 보고했다. 9월에는 보호된 추론을 빼내려는 캠페인을 차단했다고 밝히며 핵심 부분을 Kimi 개발사 Moonshot AI와 연관된 인물들에게 돌렸다. OpenAI는 Chip Security Act, AI OVERWATCH Act, MATCH Act 세 법안에 지지를 표명했다. 법이 아니라 발의된 법안이라는 점은 분명히 해 둔다.
GPT-6.2 Astra 성과를 그대로 믿기 어려운 이유
숫자는 회사가 직접 돌린 평가에서 나왔다. 공격자 모델 6개를 상정한 내부 실험이고, 외부 감사는 없다. 0.2%는 실제 도난 비율이 아니라 공격 성공률이다. Anthropic도 비슷한 싸움을 하고 있다고 디코더는 전했다. 수만 개 계정을 차단했고 90%에서 99% 사이의 적중률을 주장한다는 보도다.
방어선은 모델 안에서 끝나지 않는다. 국내에서도 API 출력으로 소형 모델을 파인튜닝하는 팀이 늘었고, 약관이 허용하는 범위와 로그 보관 방식이 실무 질문이 된다. 출력 로그를 그대로 학습 데이터로 쓰는 관행이 남아 있으면 방어는 모델 밖에서 무너진다. GPT-6.2 Astra를 쓰는 국내 서비스라면 요청 로그 설계가 방어의 절반이 된다. 다음 관찰 지점은 OpenAI가 요청한 세 가지다. 대화 전체에서 추론을 보호할 것, 공격 로그를 회귀 테스트로 남길 것, 요청 단위 방어와 캠페인 단속을 함께 갈 것.






