Paritok

Paritok은 코드베이스를 고치거나 에이전트의 동작을 바꾸지 않고도 AI 코딩 에이전트의 컨텍스트를 압축하는 게이트웨이다. 로컬 프로세스로 돌아가며, 에이전트가 이미 보내는 것과 같은 API 호출을 받아 상류 모델로 넘기기 전에 페이로드를 다듬는다. 에이전트는 컨텍스트 윈도에 쓸 수 있는 여유가 늘어난 것 말고는 차이를 알아채지 못한다.

겨냥하는 문제는 실재하고 간과하기 쉽다. 코딩 에이전트는 매 턴마다 전체 도구 목록, 읽은 파일 전부, 명령 출력 전부를 다시 보낸다. 40K 토큰으로 시작한 세션이 스무 턴 안에 250K를 넘길 수 있고, 그때마다 그 전부를 다시 지불한다. 게이트웨이 계층에서 이루어지는 이 토큰 압축은 더 짧은 프롬프트를 쓰라고 요구하는 대신 그 팽창을 근원에서 공략한다. 이것은 컨텍스트 압축 게이트웨이이지 플러그인이 아니다.

이 구분은 중요하다. 플러그인은 에이전트 내부에서 돌아가며 그 에이전트 자체의 훅과 특성에 의존하므로 적용 범위가 들쭉날쭉하고 업데이트가 문제를 일으킨다. 게이트웨이는 한 계층 바깥에 자리한다. 그래서 같은 요청과 응답이 그대로 흘러가고, 회선 위의 토큰 수는 턴을 거듭할수록 조용히 줄어든다.

주된 한계는 적용 범위다. Paritok은 코딩 에이전트 트래픽을 위해 만들어졌지 일반 채팅이나 문서 작업용이 아니며, 에이전트가 많은 도구에 의존하고 많은 파일을 읽을 때 가장 잘 작동한다. 그렇다면 언제 이득이 사라질까. 세션이 짧고 도구를 적게 쓴다면 절감은 작고, 추가된 로컬 프로세스가 제 몫을 못 할 수도 있다. 젊은 제품이므로 드문 제공자와 세밀한 설정 조합에서는 거친 부분을 각오하고, 중요한 일을 맡기기 전에 자신의 에이전트 구성이 문서대로 동작하는지 확인할 시간을 조금 남겨 두는 편이 좋다.

시작하기

1. Paritok 게이트웨이를 설치하고 로컬에서 실행한다. 여기서 에이전트 요청을 기다린다.
2. 환경 변수 하나를 설정해 에이전트를 이쪽으로 향하게 한다. 예를 들어 ANTHROPIC_BASE_URL=http://127.0.0.1:8080이다.
3. 기존 모델 제공자와 키는 그대로 둔다. Paritok은 OpenAI 호환 상류라면 어디로든 전달한다.
4. 평소처럼 Claude Code, Cursor, Codex, OpenHands에서 세션을 시작하고 토큰 계기가 내려가는 것을 본다.
5. 에이전트가 정확한 내용을 필요로 하면 read_original(ref)를 호출해 원본 바이트를 되가져온다. 로컬에서 이루어지고 턴을 소모하지 않는다.