Overseer AI

Overseer AI란

Overseer AI는 대규모 언어 모델 위에 제품을 만드는 팀을 위한 안전성과 컴플라이언스 계층이다. 목표는 분명하다. 모델이 사용자에게 답할 때, 그 답이 나가기 전에 Overseer AI가 내용을 살피고 반환해도 되는지 판단한다. 안전한 문장은 그대로 통과한다. 위험하면 우리가 지정한 대체 답변으로 바꿔 넣는다.

모든 처리는 API로 이뤄지고 채팅 창은 쓰지 않는다. 관리 화면에서 AI 시스템을 만들고, 중요하게 보는 정책을 설정하고, API 키를 받아, 자기 코드에서 검사 메서드를 호출한다. Overseer AI는 Node.js와 TypeScript SDK를 GitHub와 npm에 공개해 두었으므로 연동은 몇 줄이면 되고 별도 프로젝트로 커지지 않는다. 정책은 유해성, 편향, 규제 요건 같은 항목을 대상으로 삼을 수 있고, 플랫폼은 적발될 때마다 타임스탬프를 기록해 나중에 팀이 추적할 수 있게 한다.

제약은 이 회사가 하지 않기로 한 부분에 있다. Overseer AI는 사용자 데이터를 보지도 저장하지도 않는다고 밝히며, 이는 강한 프라이버시 약속이다. 그 대신 분석 기능은 대화 전문이 아니라 적발 시각만을 근거로 삼는다. 요금은 월 1,000건의 무료 요금제에서 시작하고, Startup 요금제는 월 499달러로 10,000건까지 처리한다. 특수한 요구가 있는 팀은 맞춤 안전 모델과 자체 호스팅 추론을 두고 영업과 상의해야 한다.

시작하기

1. Overseer AI 관리 화면에서 무료 계정을 만들고 자기 앱을 나타내는 AI 시스템을 생성한다.
2. 적용할 정책을 설정한다. 유해성, 편향, 자체 컴플라이언스 규칙 같은 범주를 고를 수 있다.
3. 관리 화면의 연결 페이지에서 그 시스템용으로 발급된 API 키를 복사한다.
4. npm으로 SDK를 설치한 뒤 모델 출력에 검사 메서드를 호출하고, 답변이 허용됐는지에 따라 처리를 나눈다.
5. 본체 앱을 열어 막힌 사례를 타임스탬프로 확인하고 정책을 조금씩 조정한다.