elv.ai

모데레이션 도구로서 elv.ai는 게시물 아래 댓글을 지켜보고 유해한 것을 숨긴다. AI는 명백한 사례를 스스로 처리하지만, 확신도가 95% 이상일 때만 움직인다. 확신이 낮은 댓글은 자동 삭제 대신 사람 모데레이터에게 간다. 이 한 단계가 AI에만 기대는 도구와의 핵심 차이며, 혐오 표현 누락과 진짜 비판의 오삭제라는 두 가지 전형적 실패를 피하려는 것이다.

모데레이션 규칙은 흔한 범주를 아우른다. 저속한 표현, 혐오 표현, 사기, 허위 정보가 대상이며 Meta의 커뮤니티 규정과 디지털서비스법을 따른다. 여기에 자사 브랜드에 중요한 단어와 주제를 더할 수 있다. 뉴스룸이 신경 쓰는 표현과 스포츠 브랜드가 신경 쓰는 표현은 다르므로, 혐오 표현 필터는 하나의 목록을 적용하는 대신 계정에 맞춰 조정된다.

댓글을 숨기는 것만이 아니다. 이 서비스는 댓글 뒤의 감정을 읽어 분노, 기쁨, 슬픔, 따뜻함, 불확실, 불안 같은 범주로 나눈다. 게시물별, 시계열로 감정을 보여주는 대시보드가 있어 두 캠페인을 비교하거나, 출시나 위기 뒤에 분위기가 어떻게 바뀌었는지 추적할 수 있다. 감정 분석은 심리·문화의 다양한 차원을 다루는 연구 파트너 CulturePulse와 함께 개발했다.

모데레이션만이 일은 아니다. 자동 좋아요를 하고 답글을 제안해, 소셜 팀이 매번 처음부터 쓰지 않고도 더 빨리 응답하게 한다. 댓글이 많은 계정에서는 사람이 필요한 댓글에 시간을 쓰고, 정형화된 인사는 도구에 맡긴다는 뜻이다.

elv.ai는 모델 학습에 쓰는 규칙을 공개한다. 무엇을 저속, 혐오, 사기, 오해의 소지가 있는 내용으로 보는지 포함한다. 각 범주에는 모호한 정책 페이지가 아니라 쉬운 말의 정의가 붙는다. 댓글을 왜 숨겼는지 설명해야 하는 브랜드와 공공기관에 이는 중요하며, 직접 더할 단어의 분명한 출발점도 된다.

이 서비스는 24시간 돌아간다. 팀이 다 읽을 수 없을 만큼 댓글이 몰리는 페이지에 이는 핵심이다. 회사는 3,300만 건이 넘는 처리 댓글, 600만 건 이상의 숨김·삭제, 수천 건의 가짜 계정 표시를 내세운다. 한 언론 고객은 이 시스템이 월 2,000시간에 해당하는 모데레이션 작업을 대체하고 매달 약 8,500유로를 아꼈다고 말한다.