Colloqio

Colloqio는 하나의 발상 위에 세워진 로컬 AI 채팅 앱이다. 모델은 데이터 센터가 아니라 내 하드웨어에서 산다. 즉 연결 없이 동작하고, 메시지는 입력한 자리에 머문다. 대부분의 AI 채팅 제품은 프롬프트마다 서버로 보내고 기록하며 학습에 쓰기도 한다. Colloqio는 이를 뒤집는다. AI가 앱 자체 안에서 돌아간다. 그래서 로그인하는 또 하나의 서비스가 아니라 프라이빗 채팅으로 다룰 수 있다.

컴패니언이라는 측면도 중요하다. Colloqio는 질문에 답하는 데 그치지 않는다. 시간을 두고 대화를 이어 가며 이전에 말한 내용을 기억하도록 설계됐다. 이것이 AI를 검색 엔진처럼 느껴지지 않게 하고, 이야기 상대처럼 느껴지게 만든다. 보통 기억은 클라우드 프로필에 의존한다. 여기서는 기기 안에 있다.

그 대가는 솔직하다. 기기 내 모델은 클라우드의 거대 모델보다 작다. 최고급 호스팅 챗봇과 같은 순수한 성능은 얻을 수 없고, 앱은 휴대폰의 칩과 저장 공간에 기대어 일을 처리한다. 프라이버시를 앞세운 일상 대화라면 공정한 거래다. 무거운 조사나 긴 코드 생성이라면 클라우드 도구가 여전히 앞선다.

그러면 누가 골라야 할까. 서버가 기억을 저장하지 않으면서 세션을 넘나들어 나를 기억하는 AI를 원하는 사람. 혹은 나와 모델 사이에 클라우드 AI가 끼지 않길 바라는 사람이다.

시작하기

1. 공식 사이트에서 Colloqio를 내려받아 기기에 설치한다.
2. 앱을 연다. 동작에 계정이 필요 없으니 가입 절차가 없다.
3. 기기 내 모델이 첫 설정이나 다운로드를 마칠 때까지 기다린다.
4. 채팅을 시작하고 이름이나 맥락을 주고, 친구에게 문자를 보내듯 말을 건다.
5. 며칠, 몇 주 이어 가며 개인적으로 느껴지게 하는 기억을 쌓는다.