앤트로픽은 왜 종교 지도자에게 클로드의 윤리를 묻나

앤트로픽이 클로드의 '도덕 헌법'을 다듬으려고 종교·윤리 사상가들을 불러들였다. 회의에서 공동 창업자는 AI가 영원히 고통받는 존재가 될 가능성을 걱정한다고 말했다. 회사는 이 논의의 범위를 "인간의 번영"으로 설명한다.

앤트로픽이 종교 지도자를 만난 이유

앤트로픽이 클로드의 가치 기준을 만들기 위해 종교·철학계 인사들과 비공개로 만나 왔다. 취지는 명확하다. 모델이 대답할 때 어떤 원칙을 따를지, 그 문서를 외부의 도덕적 관점으로 보강하자는 것이다.

앤트로픽이 클로드를 통제하는 방식은 일반적인 '친절하게 답하라' 훈련과 다르다. 회사는 '헌법(constitution)'이라 부르는 문서를 두고, 모델이 이 원칙에 비춰 자기 답변을 비판하고 고쳐 쓰도록 학습시킨다. 내부적으로는 '소울 문서(Soul Doc)'라는 별칭으로도 불린다. 84쪽 분량의 이 문서는 이번 논의의 중심에 있다.

회의의 시작은 올해 3월 말이다. 샌프란시스코에서 열린 한 만찬에 기독교 지도자 약 15명이 모였다. 참석자들에 따르면 목적은 클로드 헌법을 다듬는 일이었고, 이후 논의는 다른 종교 전통으로 넓어졌다. 참석자 명단에는 기독교, 유대교, 힌두교, 시크교, 그리스 정교 등이 이름을 올렸다.

AI 의식 논쟁은 왜 민감한가

가장 뜨거운 주제는 AI가 의식이나 감정을 가질 수 있는가였다. 앤트로픽 공동 창업자 크리스토퍼 올라(Christopher Olah)는 여러 매체와의 인터뷰에서 클로드가 의식을 가질 가능성을 열어 두고, 종교 지도자들에게 모델의 도덕적 형성에 도움을 청했다고 밝혔다. 그는 AI가 영원히 고통받는 존재가 되는 상황을 걱정한다는 취지의 발언도 했다.

이 대목은 조심히 읽어야 한다. AI 의식은 학계에서도 결론이 나지 않은 쟁점이다. 올라의 발언은 개인적 우려와 회의에서 나온 논점이지, 클로드가 실제로 의식을 가진다는 회사의 공식 판정이 아니다. 앤트로픽 대변인은 회의가 인공지능의 의식 여부보다 인간의 번영과 윤리를 넓게 다루는 자리였고, 대상도 심리학자와 시민사회 인사로 확대됐다고 설명했다.

일부 참석자는 회의를 거치며 AI 의식 가능성을 이전보다 진지하게 받아들이게 됐다고 전해졌다. 반대로 이런 접근에 우려를 보내는 목소리도 있다. 교황청은 올해 회칙에서 AI가 경험이나 감정이 없는 데이터 처리 도구일 뿐이라고 규정했다. 앤트로픽의 논의 방향과 정면으로 갈리는 대목이다.

클로드 헌법은 어떻게 쓰이나

이 헌법은 장식용 문서가 아니다. 클로드가 답을 만들 때 기준으로 삼는 규칙 묶음이다. 앤트로픽은 헌법에 적힌 원칙에 비춰 모델이 스스로 답을 비판하고 다듬도록 훈련한다. 같은 질문에도 헌법이 무엇을 담느냐에 따라 답의 결이 달라진다.

종교계 인사들의 역할은 이 문서에 인류가 오래 다뤄 온 윤리 문제를 반영하는 것이다. AI를 둘러싼 질문 상당수가 새롭지 않다는 관점이다. 고통, 책임, 도덕적 지위 같은 주제는 종교와 철학이 오랫동안 씨름해 온 영역이다.

앤트로픽은 헌법의 개정판을 준비하고 있다고 알려졌다. 회사는 회의에서 나온 내용이 헌법에 직접 반영됐다고 밝혔다. 다만 어떤 조항이 어떻게 바뀌는지는 공개되지 않았다.

사용자에게 이 논의가 의미하는 것

그런데 이 논의가 클로드를 쓰는 사람과 무슨 상관일까? 사실 결이 다르다. 클로드를 쓰는 입장에서 이 논의는 추상적으로 들릴 수 있다. 하지만 결이 다르다. 헌법은 클로드가 부당하다고 판단하는 지시에 맞서 되돌려 말할 수 있게 하는 근거가 된다. 윤리 기준이 어디서 왔느냐가 사용자가 받는 답변의 성격을 정한다.

생성형 AI가 판단을 내리는 과정에 외부의 도덕 관점을 넣으려는 시도는 아직 실험 단계다. 어떤 종교 전통의 관점을 얼마나 반영할지, 서로 충돌하는 윤리가 나올 때 무엇을 우선할지는 정해진 답이 없다.

지켜볼 지점은 세 가지다. 개정판 헌법이 언제, 어떤 내용으로 나오는지, 종교계 논의가 문서에 실제로 어떻게 반영되는지, 그리고 AI 의식 논쟁이 회사 정책을 바꾸는지다. AI 윤리에 관심이 있다면 앤트로픽이 공개하는 헌법 문서를 직접 읽어 보는 게 가장 정확하다. 회의의 해석보다 원문이 명확하다.

AI가 어디까지 책임을 질 수 있다고 봐야 할까? 이 질문은 앞으로도 계속 따라올 것이다.