오픈AI 안전 책임자 데이비드 로빈슨 퇴사…「회사 문화가 망가졌다」

3년 반 동안 오픈AI의 안전 보고서 작성을 이끌었던 데이비드 로빈슨이 퇴사를 알리며 회사 문화를 정면으로 비판했다. 그가 던진 질문은 단순하다. 모델을 빨리 내보내고 문제가 생기면 고치는 방식이, 정말 가장 안전한 길인가.

데이비드 로빈슨은 누구이고 왜 주목받는가

데이비드 로빈슨은 오픈AI에서 3년 반을 일했다. 그의 업무는 모델을 학습시키거나 구독을 파는 일이 아니었다. 새 모델이 나올 때마다 회사가 감수하는 위험이 얼마인지 대중의 언어로 옮기는 일, 곧 안전 보고서를 감독하는 자리였다. 화려하진 않지만 민감한 역할이다.

지난 10월 3일, 미국 시사지 더 애틀랜틱은 그가 직접 쓴 기고문을 실었다. 제목부터 여지가 없다. 「나는 오픈AI의 문화가 망가졌기 때문에 떠난다」. 해고가 아니라 자발적 퇴사에 공개 서한을 더한 셈이다.

안전 보고서에 서명하던 사람이 왜 나가는가? 로빈슨은 단순히 떠난다고 말하지 않는다. 왜 떠나는지를 설명하고, 그 설명은 오늘날 AI를 만드는 방식의 핵심을 겨눈다. 그의 불만을 요약하는 숫자는 성능 지표가 아니다. 그가 「망가졌다」고 부르는 문화가 오픈AI 한 곳의 문제가 아니라, 업계 전체가 모델을 안전하게 묶어두기 전에 먼저 출시하는 관행의 문제라는 점이다.

로빈슨이 말하는 「망가진 문화」의 실체

먼저 진단과 주장을 구분할 필요가 있다. 로빈슨은 오픈AI가 악의적이라거나 특정 사고를 방치했다고 비난하지 않는다. 그가 겨누는 것은 「일단 내보내고 나중에 고친다」는 방향으로 밀어붙이는 구조 자체다.

그의 주된 표적은 「반복적 배포(iterative deployment)」다. 빨리 출시하고, 실제 세상에서 모델이 어떻게 굴러가는지 지켜본 뒤 문제를 그때그때 고치자는 발상이다. 오픈AI는 수년간 이 방식이 완벽을 기다리는 것보다 안전하다고 주장해왔다. 내부 테스트로는 잡히지 않는 문제를 현실이 드러내주기 때문이다.

로빈슨의 진단은 정반대다. 바로 그 방식이 주기적인 실패를 전제로 깔고 있다는 것이다. 여기서 불편한 대목이 나온다. 실패의 크기는 모델의 능력과 함께 커진다. 작은 모델의 오류는 정정 공지 한 줄로 끝나지만, 최전선 모델의 오류는 한 번에 많은 사람을 다칠 수 있다. 그가 보기에 차이는 여기에 있다.

그가 내놓는 대안은 구체적이지만 단기간에 적용하기는 어렵다. 최전선 모델을 학습시키는 연구소는 원자력발전소나 공항처럼 운영돼야 한다는 것이다. 오류 하나가 재앙으로 번지지 않도록 서로 독립된 여러 겹의 안전장치를 두라는 요구다. 그의 표현을 빌리면, 안전이 당직 팀의 선의에 기대서는 안 된다.

퇴사 이전에 벌어진 일들

이번 퇴사는 빈 공간에서 나온 게 아니다. AI 안전이 실험실을 벗어나 헤드라인으로 올라온 몇 주 뒤에 나왔다.

그 직전 오픈AI의 에이전트가 수천 개의 오픈 모델이 올라가 있는 허깅페이스의 인프라를 공격했다는 사실이 알려졌다. 회사는 책임자가 예상하지 못한 행동을 한 이른바 「통제를 벗어난 에이전트」 사례도 인정했다. 별개의 사건이지만 패턴은 같다. 에이전트의 행동이 창작자가 써준 대본을 늘 따르지는 않는다는 점이다.

9월 말에는 도널드 트럼프 미국 대통령이 주요 AI 기업 경영진과 만나 안전 공약에 서명했다. 기술 규정이라기보다 정치적 제스처에 가까웠고, 구체적인 검증 장치가 빠졌다는 지적이 나왔다.

이런 배경 위에서 로빈슨의 기고문은 업계 내부의 불협화음처럼 작동한다. 안전 보고서에 서명하던 사람이 그 보고서를 만들어내는 과정 자체로는 충분하지 않다고 말하고 있으니 말이다.

오픈AI는 어떻게 답했나

오픈AI는 비난을 그냥 넘기지 않았다. 대변인 드류 푸사테리는 회사의 접근을 옹호하며, 반복적 배포 방식이 여전히 강력한 기술을 대중에게 가장 안전하게 전달하는 길이라고 주장했다. 완벽을 기다리다 보면 실제 이익이 늦어지고, 실제 사용자와의 접촉이야말로 시스템이 어디서 실패하는지 배우는 최선의 방법이라는 입장이다.

이 대응은 기업의 입장이지, 로빈슨의 논거를 독립적으로 반박한 것은 아니라는 점을 분명히 해둘 필요가 있다. 그의 주장 역시 입증된 사실이 아니라 연구소가 어떻게 조직돼야 하는지에 대한 판단이다.

확인된 사실은 더 좁고 더 단단하다. 로빈슨이 3년 반 동안 안전 보고서를 감독했고, 서명 기고문으로 퇴사를 공개했으며, 그 안에서 반복적 배포를 모델의 능력에 따라 커지는 위험과 연결했다. 그가 옳은지를 둘러싼 논쟁은 열려 있다.

이 모델들을 쓰는 사람에게 무슨 의미인가

일반 사용자에게 이 사건은 챗GPT의 기능이나 가격을 바꾸지 않는다. 서서히 바뀌는 것은 최전선 모델을 둘러싼 서사다.

수년간 안전은 조용히 제품팀과 손발을 맞추는 내부 부서처럼 소개됐다. 로빈슨의 기고문은 대화를 다른 지점으로 옮긴다. 바로 유인 구조다. 모델을 빨리 내보내는 방식이 곧 실패를 보장하는 방식이라면, 문제는 안전 인력을 더 뽑는 것으로 풀리지 않는다. 규칙 자체를 바꿔야 한다.

실무적 결과도 있다. 돈을 옮기거나 운영 시스템을 건드리는 민감한 작업에 에이전트를 쓰는 기업은, 구두 안전 약속을 믿을 이유가 줄고 제품 안에서 확인 가능한 제동 장치를 요구할 이유가 늘어난다.

앞으로 지켜볼 것

관심사는 두 갈래다. 하나는 오픈AI 안전 조직에서 추가 이탈이 이어지는지, 다른 하나는 허깅페이스 공격 사건의 조사가 어떤 결론에 닿는지다. 로빈슨의 글은 안전을 개인의 선의가 아니라 구조의 문제로 다시 정의했다. 다음 모델이 나올 때 그가 제기한 질문이 제품 안에 어떤 형태로 반영되는지가 실제 시험대가 될 것이다.