구글이 AI 생성물 판별 도구 '신스ID 디텍터'를 전 세계에 열었다. 누구나 이미지나 영상, 음성을 올려 보이지 않는 워터마크가 있는지 확인할 수 있다. 우선 영어로만 제공된다.
신스ID 디텍터가 뭔가
구글이 10월 7일(현지시간) 신스ID 디텍터를 일반에 공개했다. 그동안 소수 전문가에게만 열려 있던 도구를 누구나 쓸 수 있게 넓힌 것이다.
신스ID는 구글이 2023년 처음 선보인 보이지 않는 워터마크 기술이다. 사람 눈에는 안 보이지만, 도구로 검사하면 AI가 만든 이미지인지 아닌지 판별할 수 있다. 구글에 따르면 지금까지 1,800억 개가 넘는 이미지와 영상, 24만 년 분량의 음성에 이 워터마크가 새겨졌다.
어떻게 쓰나
그럼 어떻게 쓰는 걸까. 포털은 신스ID 전용 사이트인 synthid.com에서 열린다. 이미지나 동영상, 오디오 파일을 올리면 워터마크가 들어 있는지 확인해준다. 회원 가입 없이 쓸 수 있고, 현재는 영어 인터페이스만 지원한다.
검사 범위는 구글을 넘어선다. 구글이 만든 콘텐츠뿐 아니라 파트너사가 찍은 워터마크까지 잡아낸다. 지금은 오픈AI와 엔비디아, 카카오가 대상에 들어 있고, 애플도 곧 합류할 예정이라고 구글은 밝혔다.
왜 이게 필요한가
생성형 AI가 만든 가짜 이미지와 영상이 넘쳐나는 상황에서, 그게 어디서 나왔는지 밝히는 일은 신뢰 문제와 직결된다. 선거철 허위 영상이나 사기용 사진이 문제가 되면서 출처를 따지는 도구의 수요가 커졌다.
신스ID 디텍터는 '만드는' 도구가 아니라 '확인하는' 도구다. 구글은 이 도구가 구글 검색과 제미나이 앱, 크롬 브라우저에 이미 붙어 있는 검증 기능과 맞물려 하루 100만 건이 넘는 확인 요청을 처리한다고 설명했다.
- 구글 렌즈와 AI 모드, 서클 투 서치에서 바로 검사
- 크롬에서는 오른쪽 클릭 메뉴로 확인
- 결과는 '워터마크 있음' 또는 '없음'으로 나뉜다
한계와 논란
신스ID는 완전하지 않다. 워터마크만 보고 판단하는 구조라, 워터마크를 넣지 않은 AI 도구로 만든 결과물은 걸러내지 못한다. 반대로 워터마크가 있어도 편집을 거치거나 크기를 줄이면 손상될 수 있다.
보안 연구자들 사이에서는 우회 가능성도 계속 제기된다. 워터마크 신호를 역설계해 지우는 시도가 공개되기도 했다. 구글은 검출 정확도를 높이는 작업을 이어가고 있지만, 이 도구가 AI 콘텐츠 문제를 완전히 해결하는 만능 열쇠는 아니라는 지적이 나온다.
지금 쓸 수 있다
신스ID 디텍터는 synthid.com에서 바로 쓸 수 있다. 인터넷에서 본 사진이나 영상이 AI로 만든 것인지 궁금할 때, 파일을 올려 확인하면 된다. 구글 검색과 크롬에서도 같은 기능을 쓸 수 있다.
