Cirrascale Cloud Services
Cirrascale Cloud Services (Cirrascale Corporation) · 코딩
Cirrascale Cloud Services는 Qualcomm 카드 한 장부터 NVIDIA B200 8장까지 전용 GPU 서버를 월 정액으로 빌려주는 프라이빗 AI 클라우드다. 데이터 전송료는 따로 받지 않는다.
Cirrascale Cloud Services 소개
About
Cirrascale Cloud Services란
Cirrascale Cloud Services는 AI 학습 인프라나 파인튜닝, 모델 서빙을 하드웨어 구매 없이 돌리려는 팀에 전용 가속기 용량을 판다. 모회사인 Cirrascale Corporation이 여러 해 멀티 GPU 블레이드와 랙마운트 시스템을 만들던 회사이고, 그 기계를 월 단위로 빌려주는 사업이 이 클라우드다.
핵심은 통제권이다. 이용자는 공유 장비를 쪼갠 조각이 아니라 root 권한이 있는 서버 한 대를 받고, 하드웨어는 NVIDIA, AMD, Qualcomm, Tenstorrent로 넓다. 특정 벤더의 툴체인에 묶인 프로젝트나 가격 협상 여지를 남기려는 구매자에게 이 폭이 의미를 갖는다.
대신 약정이 따른다. Cirrascale은 GPU 시간을 시간 단위로 팔지 않아서 최소 한 달을 빌려야 한다. 두 시간짜리 실험만 필요한 팀은 분 단위 과금 클라우드를 보는 편이 낫다.
회사는 추론 사업도 운영한다. 관리형 AI 추론 플랫폼, Google Distributed Cloud에서 도는 프라이빗 Gemini 엔드포인트, Ai2 오픈 모델용 호스팅 엔드포인트가 그것이다. 공공 부문은 Google GPAR 서비스로 접근한다.
시작하는 방법
- Get Started 양식으로 요청을 보내거나 영업팀에 모델 크기, 프레임워크, 목표 일정을 알려 상담한다.
- 가속기와 약정 기간을 고른다. 1개월, 3개월, 6개월, 연간 가격이 서버 단위로 공개돼 있다.
- 견적을 승인하고 조직이 요구하는 보안 검토를 포함한 온보딩을 마친다.
- 인스턴스를 만들고 NVMe나 오브젝트 스토리지를 붙인다. 여러 노드로 돌릴 작업이면 네트워크나 InfiniBand를 연결한다.
- 학습이나 추론 워크로드를 옮겨 자체 스택으로 운영하거나, 운영 전체를 관리형 서비스 팀에 맡긴다.
제품 정보
Cirrascale Cloud Services의 요금, 지원 플랫폼, 성능을 한눈에 확인해 보세요.
추천 대상
이 도구가 가장 잘 맞는 사용자, 작업, 상황입니다.
사용자
- 몇 달짜리 학습 계획을 가진 ML 팀
- 고성능 GPU 8장이 필요한데 하드웨어는 사고 싶지 않은 스타트업
- 데이터 소재 규정을 받는 기업
- 추론 트래픽이 꾸준한 팀
작업
- 대형 모델 사전 학습과 파인튜닝
- 모델 서빙과 검색 파이프라인
- 프레임워크 이식성 테스트
- 규제 환경의 추론 배포
활용 상황
- H100 노드 16대 이상을 두 달 동안 쓰면서 클러스터를 직접 짓지 않으려는 연구 그룹.
- 수백만 개의 작은 이미지 파일을 보관하다 범용 클라우드 스토리지에서 막히는 컴퓨터 비전 기업.
- 연간 컴퓨팅 계약을 맺기 전에 여러 사업자의 GPU 클라우드 요금을 비교하는 팀.
주요 기능
네 개 칩 벤더를 아우르는 전용 GPU 서버
모든 인스턴스는 가상 분할이 아니라 서버 한 대이고, 제품군은 하단의 8x NVIDIA RTX A4000부터 8x NVIDIA B200과 8x AMD MI300X 클라우드 구성, Qualcomm Cloud AI 100까지 이어진다. 프레임워크에 맞는 실리콘을 고르면 되고, 워크로드를 한 벤더에 맞춰 구부릴 필요가 없다. GPU가 아닌 가속기를 시험하는 팀을 위해 Tenstorrent Galaxy 노드도 있다.
다중 노드 학습을 위한 클러스터 네트워크
NVIDIA H100 대여는 단일 서버가 25Gb 본딩 네트워크로 나가는 구성에서 시작하고, H100 클러스터 구성은 최대 3200Gb 대역폭의 3200Gb InfiniBand로 올라간다. Cirrascale은 16노드 이상 H100 클러스터를 GPU 시간당 $2.49부터 제시한다. 700억 파라미터급 학습이 몇 주 안에 끝날지, 상호 연결에서 멈출지가 여기서 갈린다.
전송료 없는 월 정액 과금
여기 GPU 클라우드 요금은 서버당 월 단가이고, 3개월, 6개월, 연간 약정으로 갈수록 실질 단가가 내려간다. 인바운드와 아웃바운드 모두 과금하지 않아서 테라바이트급 데이터셋을 옮기거나 출력이 많은 서비스를 돌리는 팀의 계산이 달라진다. Cirrascale은 이 방식을 No Surprises billing이라 부르며 숨은 비용이 없다고 밝힌다.
프라이빗 Gemini와 관리형 추론 엔드포인트
AI 추론 플랫폼에는 오픈 모델용 호스팅 엔드포인트, Qualcomm 추론 클라우드, Ai2 모델 엔드포인트가 포함된다. 프라이빗 Gemini 엔드포인트는 Google Distributed Cloud에서 돌고 Google Cloud Marketplace에도 올라 있다. 프롬프트와 응답을 자사 인프라 안에 두면서 관리형 Gemini 모델을 쓸 수 있다는 뜻이다.
핫 NVMe부터 오브젝트까지 이어지는 계층 스토리지
핫 계층 NVMe는 오브젝트 스토리지와 따로 과금되고, 오브젝트 단가는 50TB, 2PB, 그 이상 구간으로 올라갈수록 내려간다. 수백만 개의 작은 파일로 이루어진 학습 데이터를 겨냥한 설계이고, 범용 오브젝트 스토리지가 무너지는 지점이 바로 그곳이다. 바탕에는 Dell 하드웨어와 Weka 병렬 파일 시스템이 있다.
플랫폼 인력이 없는 팀을 위한 관리형 서비스
Cirrascale은 제로 DevOps를 내건 전문 및 관리형 서비스를 제공해서, 데이터 과학 팀이 프로비저닝과 모니터링, 클러스터 유지보수를 넘길 수 있다. 인프라 전담 엔지니어가 없는 조직이라면 서버를 빌린 상태와 학습이 실제로 도는 상태 사이의 간격을 이 서비스가 메운다.
장단점
장점
- 서버 단가라 몇 달치 AI 예산을 예측하기 쉽고, 긴 약정은 GPU당 단가를 낮춘다.
- 인바운드와 아웃바운드 요금이 없어서 데이터셋이 클수록 다른 GPU 클라우드에서 조용히 불어나는 비용이 사라진다.
- 가속기가 NVIDIA, AMD, Qualcomm, Tenstorrent에 걸쳐 있어 구매 협상 여지가 실질적으로 생긴다.
- InfiniBand를 붙인 H100 클러스터는 16노드 이상에서 GPU 시간당 $2.49까지 내려가 대규모 학습에서 경쟁력이 있다.
- Dell 플래티넘 파트너 자격과 Weka 스토리지 덕분에 하드웨어 근거를 벤더 이름으로 확인할 수 있다.
단점
- 시간제나 초 단위 과금이 없어서 짧은 테스트도 서버 한 달치 비용이 든다.
- 온보딩이 영업을 거치므로 신용카드로 5분 만에 노드를 띄울 수는 없다.
- 무료 플랜도 체험판도 없어서 플랫폼을 평가하려면 유료 약정이 필요하다.
- 공개 가격이 서버 단위라서 시간제 클라우드와 비교하려면 직접 계산해야 한다.
자주 묻는 질문
AI 학습과 파인튜닝, 추론을 위한 전용 GPU 및 가속기 서버와 관리형 추론 엔드포인트를 제공한다. 장비를 한 달 이상 빌려 그 위에서 자체 스택을 돌리는 구조다.
관련 콘텐츠
Cirrascale Cloud Services와 관련된 도구, 스킬, 아티클을 살펴보세요.
Cirrascale Cloud Services 대안
Base Code
Base44 (Wix) · 코딩 · 생산성Base Code는 Base44가 만든 공유 클라우드 개발 환경이다. 팀은 기존 GitHub 저장소에 대한 변경을 채팅으로 설명하고, 미리보기로 확인한 뒤 풀 리퀘스트로 돌려보낸다.
Google EmbeddingGemma 2
Google DeepMind · 글쓰기 · 이미지 · 코딩Google EmbeddingGemma 2는 7억 4000만 파라미터의 오픈 모델로, 텍스트와 코드, 이미지, 오디오, 영상 프레임을 하나의 768차원 공간에 벡터로 바꿔 스마트폰과 노트북에서 실행한다.
GitGlow
GitGlow · 코딩 · 생산성GitGlow는 내 코드와 AI 에이전트의 변경을 한 리뷰에 모으는 데스크톱 Git 클라이언트다. 배포 전에 내 기계에서 무엇이 나가는지 확인할 수 있다.