Tensorlake

도구 호출과 하네스는 각자 전용 Firecracker microVM에서 돌고, 테넌트끼리 커널을 공유하지 않는다. 기본 이미지는 수백 밀리초에 뜨고, systemd가 들어간 완전한 이미지는 1초쯤 걸린다. 모델이 쓴 코드를 돌리는 사람에게 이 분리는, 오류가 안에서 끝나느냐 서버가 통째로 죽느냐의 차이다.

영구 볼륨을 마운트하면 평범한 POSIX 디렉터리로 나타나고, 읽기와 쓰기는 로컬 NVMe로 간다. 확정된 변경은 스스로 영구 스토리지로 복제돼서, 에이전트는 Git을 배우지 않고도 버전 관리되는 작업 상태를 유지한다. 스냅샷은 영구 체크포인트를 못 박고, 남겨 둔 임의 지점에서 트리 전체를 복원하거나 분기할 수 있다.

Tensorlake의 호스팅 Git은 평소처럼 쓴다. Git smart HTTP로 복제하고 브랜치를 만들고 커밋하고 병합하고 푸시한다. 복제 없이 저장소를 샌드박스에 바로 마운트할 수도 있는데, 내용이 읽히는 대로 흘러 들어오기 때문이다. 병합은 서버에서 돌고, 회사 말로는 저장소 크기가 아니라 바뀐 경로에 대해 비용을 낸다.

샌드박스는 놀고 있을 때 메모리와 프로세스, 파일 시스템을 그대로 얼려 둘 수 있고, 멈춰 있는 동안 과금도 멈춘다. 이름으로 약 1초에 재개하거나, 요청이 들어오는 순간 스스로 깨어나게 둘 수 있다. 돌아가는 가상 머신을 메모리째 복제해서 똑같은 복사본을 병렬 작업에 뿌릴 수도 있다.

샌드박스 사용이 실제 애플리케이션이 되면, 오케스트레이션 계층이 실행 위에 엔드포인트와 내구성, 분산, 재시도, 애플리케이션 수준 관측성을 얹는다. 내구성 있는 큐와 타이머가 긴 에이전트 흐름을 받치고, 세션마다 전용 샌드박스가 붙어서 상태가 실행 사이로 새지 않는다.

이미 쓰는 하네스와 코딩 에이전트와 연동하고, 외부 전송을 줄이거나 네트워크 경계를 더 엄격히 해야 할 때 자사 AWS, GCP, Azure 계정 안에 배포할 수 있다. 모든 등급에서 SOC 2 Type II를 지키고 Pro 이상에서 HIPAA를 지킨다.