BLACKBOX AI

프롬프트는 클라이언트에서 봉인되고 경로 위에서도 암호화된 채로 남는다. 키를 쥐는 건 실행하는 모델뿐이다. 프록시도 호스트도 운영자도 읽을 수 있는 문자를 보지 못한다. 개인정보 보호 약속과 기술적 보장의 차이가 여기다. 저장 중인 데이터도 암호문으로 둘 수 있어, 디스크를 도난당해도 쓸 만한 게 없다.

게이트웨이는 흘려보낸 트래픽에 데이터 무보관과 학습 금지를 강제한다. 프로바이더 약관과, API가 허용하는 범위의 요청별 플래그가 이를 뒷받침한다. 답이 돌아온 뒤 읽을 수 있는 것은 남지 않는다. 데이터가 재사용되지 않음을 입증해야 하는 팀에게 이 통제는 감사를 견딘다.

Blackbox Router는 30개 넘는 연구소, 300개 넘는 모델에 OpenAI 호환 단일 엔드포인트와 한 장의 청구서로 닿는다. 오픈 웨이트와 닫힌 모델이 나란히 있고, 프로바이더마다 다른 SDK를 유지할 필요가 없다. 자체 OpenAI, Anthropic, Google 계정을 연결해 기존 계약으로 청구할 수도 있다.

고른 오픈 웨이트 모델을 다른 고객과 분리한 전용 배포로 Blackbox가 운영하는 인프라에서 돌릴 수 있다. 데이터 상주, 고객 관리 키, 상주 엔지니어와의 설정 작업까지 포함한다. 공유 멀티 테넌트 엔드포인트를 피하려는 팀을 위한 선택지다.

지능형 라우팅은 각 요청을 맞는 모델로 보내고, 프로바이더가 흔들리면 자동으로 전환한다. 프롬프트 캐시는 이미 지불한 계산을 재사용한다. 회사 설명에 따르면 라우팅과 캐시는 닫힌 모델에서도 약정을 10~20% 늘린다. 실제로는 고정된 토큰 예산을 쓸 수 있는 여력으로 바꾸는 셈이다.

Agents API는 클라우드에서 코딩 에이전트를 돌린다. 격리된 샌드박스와, Chairman LLM이 나머지를 묶는 멀티 에이전트 흐름도 포함한다. Enterprise 계정에는 SSO를 갖춘 전용 러너도 있다. 순수한 추론 계층이던 플랫폼이 스스로 개발 작업을 밀어붙이는 도구로 바뀐다.

오픈 웨이트 모델을 자체 데이터와 작업에 맞출 수 있다. 지원 티켓 분류부터 자체 시스템 형식에 맞춘 구조화 출력까지 포함한다. 워크플로는 자체 엔진에서, 또는 상주 엔지니어의 도움으로 돈다. 전용 배포와 결합하면 모델과 추론 엔진 모두 손에 남는다.