Twigg

Twigg는 관리형 컨텍스트 저장소로 대화를 대신 보관하므로 대화 기록 전체를 다시 보낼 일이 없다. 채팅을 한 번 만들고 나서 방금 일어난 일, 예컨대 프롬프트나 도구 결과만 보낸다. 저장된 스레드는 앱이 읽고 쓰는 유일한 기록이 된다.

같은 채팅을 Anthropic, OpenAI, Google, xAI, Fireworks, OpenRouter 모델로 처리할 수 있다. Twigg는 저장된 컨텍스트를 선택한 공급자가 기대하는 스키마로 변환하므로 공급자별 형식을 유지하지 않아도 된다. 모델 자체의 문자열을 보낼 필요는 없고, 대신 카탈로그 항목을 지정한다.

모델은 요청마다의 선택이며 채팅의 속성이 아니다. 필드 하나만 바꾸면 대화 도중에 모델을 전환할 수 있다. 한 모델에서 시작해 다른 모델로 이어간다. 그래서 비용이나 품질에 따른 라우팅이 마이그레이션이 아니라 한 줄짜리 변경이 된다.

각 네임스페이스는 컨텍스트 예산과 보존 정책을 포함한 자체 규칙을 가진다. 대화 기록이 모델의 윈도우를 넘으면 Twigg가 그것을 압축하고 어디서 일어났는지 알려준다. 압축 실행은 같은 요율로 별도 항목으로 청구된다.

모든 상호작용은 어떤 컨텍스트를 조립했고, 어느 모델이 처리했고, 얼마가 들었는지 기록하는 실행이다. done 이벤트가 사용량과 비용을 돌려주며, 실행 id가 요청을 감사하는 데 쓰는 값이다. 가격은 백만 토큰당으로 표시되고 플랫폼 마진을 포함한다.

네임스페이스는 acme/proj-7처럼 네가 고르는 경로로, 채팅 생성 시 설정되고 이후 변경할 수 없다. 목록 표시를 위해 채팅을 묶고, 어떤 지침, 도구, 보존 정책, 컨텍스트 예산이 적용되는지 정하는 범위 키이기도 하다. 경로 상위에서 게시한 설정은 그 아래에 적용된다.

응답은 항상 서버 전송 이벤트로 스트리밍된다. 텍스트 델타 외에도 스트림은 도구 호출, 설정과 변환 경고, 진행 중인 압축 작업을 보고한다. Twigg는 도구가 호출되었음을 알리며, 대신 실행하지는 않는다.