Frontier Model Forum

Forum은 프런티어 역량 평가 기술 보고서를 냈다. 모델이 화학·생물·방사선·핵무기 개발을 도울 수 있는지, 공격적 사이버 작전을 지원하는지, 위험한 자율 행동을 보이는지 시험하는 절차다. 보고서는 현재 실무를 찍은 사진이지 확정된 표준이 아니다. 이 솔직함이 쓸모 있다. 방법이 모이는 지점과 각 연구소가 아직 임기응변하는 지점이 보인다.

2025년 3월 Forum은 취약점, 위협, 우려되는 역량에 관한 정보를 서명사끼리 교환할 수 있는 자발적 협정을 발표했다. 회원사는 그동안 탈옥 저장소, 적대적 입력 관련 발견, 공격 시도 지표를 공유했다. 지식 재산을 보호하고 반독점 경계를 지키는 법적·기술적 장치가 있어 이 약속은 실제로 돌아간다.

AI 안전 기금은 2023년 10월에 출발했고 1,000만 달러가 넘는 약정이 모였다. 창립 연구소와 재단이 돈을 댔다. 지원은 2024년 11월과 2025년 12월 두 차례 이뤄졌고, Meridian Institute가 2025년 중반 문을 닫은 뒤로는 Forum이 기금을 직접 운영한다. 남은 돈은 연구의 병목을 푸는 좁은 과제에 쓰인다.

내건 목표는 위협 모델, 평가 방법, 임계값, 완화책에 대한 공통 이해를 만들고 이를 AI 표준 논의로 넘기는 것이다. 결과물은 신생 실무 문서이지 공식 규칙이 아니다. 읽는 쪽에서는 규제 당국이 문서를 쓰기 몇 달 전에 연구소가 무엇을 합리적이라고 보는지 미리 알 수 있다.

워크숍은 연구소, 대학 연구팀, 시민 사회, 정부 담당자를 한자리에 모은다. Forum은 정보 공유를 이들 사이의 다리로 쓰고, 회원이 아닌 프런티어 기업과도 자발적 교환을 시험하겠다고 밝혔다. 자리를 만드는 힘은 소프트파워다. 작은 연구소나 규제 당국이 보도자료가 아니라 신뢰할 수 있는 방을 필요로 할 때 효과가 크다.

가입하려면 프런티어 AI 역량 증명, 배포를 늦추거나 중단할 수 있는 안전 검토 절차 문서화, 외부 평가 지원, 3년 이상의 재정 약정이 필요하다. 조건은 공개되고 연차 보고서도 나온다. 기준은 높고 심사는 동료끼리 한다. 그래서 이 조건은 개별 모델의 안전성보다 누가 안에 있는지를 더 잘 말해 준다.