Salad - GPU Cloud

Salad는 190개국 이상의 게이밍 PC와 워크스테이션에서 모은 하루 약 16,000개의 활성 GPU에 컨테이너를 배치한다. 하드웨어는 이미 존재하므로 플랫폼은 새 데이터센터에 투자하는 대신 공급을 모은다. 가격을 낮게 유지하는 힘이 여기에 있다.

이 오케스트레이션 계층이 GPU 컨테이너 배포를 맡는다. 상대는 한 번도 본 적 없는 노드다. 각 장비를 검증하고 하이퍼바이저 뒤로 격리하며, 노드가 사라지는 순간 작업을 재배치한다. 넘길 것은 도커 이미지와 몇 가지 자원 설정뿐이고, 서버를 손으로 조율할 필요가 없다.

Gateway는 Qwen 3.6과 Qwen 3.5 같은 오픈웨이트 모델을 다루는 OpenAI 호환 API다. 큰 구성은 262,144 토큰의 컨텍스트 창을 갖춘다. 아무 OpenAI SDK나 새 베이스 URL로 돌리면 에이전트와 코딩 도우미, 앱이 토큰 단위나 월 정액으로 과금된다.

우선순위가 네 단계라 안정성과 비용을 맞바꿀 수 있다. 높은 우선순위는 선점당하지 않고, 가장 낮은 단계는 가장 싸고 가장 잘 끊긴다. 과금은 인스턴스가 멈추는 순간 끝나며, 할당과 이미지 다운로드, 콜드 스타트는 무료다.

Salad는 특정 작업에 맞춘 엔드포인트를 공개한다. 받아쓰기 API는 CommonVoice에서 95.1% 정확도에 도달했고, 음성 합성 서비스는 1달러당 최대 600만 단어로 안내된다. 각 수치는 공개된 방법론으로 연결되지, 광고 문구가 아니다.

공유 풀 밖에도 예약형 Dedicated 서버가 RTX PRO 6000 Blackwell을 얹고 계약으로 돌아간다. Private Cloud는 같은 오케스트레이션 계층을 이미 가진 하드웨어에 라이선스한다. Private Cloud라면 회사 데이터는 회사 기기에 남는다.