RunInfra
RunInfra · 코딩
RunInfra는 하나의 계정에서 두 가지 일을 처리하는 AI 추론 플랫폼이다. 이미 호스팅 중인 오픈 웨이트 모델을 OpenAI 호환 API와 Anthropic 호환 API로 호출할 수 있고, 채팅에서 Hugging Face 모델을 넘기면 에이전트가 서빙 스택을 대신 조정해 준다. GPU를 고르지 않고도 프로덕션 엔드포인트를 원하는 개발자와 소규모 팀을 겨냥한다. 수작업 프로비저닝은 여기서 할 일이 아니다. 자기 방식대로 LLM을 서빙하는 것이 할 일이다.
RunInfra 소개
RunInfra란 무엇인가
RunInfra는 호스팅형 모델 API와 최적화 서비스를 하나의 워크스페이스에 합친 것이다. 앞부분은 대부분의 모델 제공자와 같다. 베이스 URL로 HTTP 요청을 보내면 완성이 돌아온다. 채팅 완성과 Responses 형식은 OpenAI 사양을 따르고, Messages는 Anthropic 사양을 따르므로 기존 SDK는 보통 URL과 키만 바꾸면 들어맞는다. 고를 GPU가 없다. 논쟁할 인스턴스 유형도 없다.
뒷부분이 눈에 띄는 대목이다. Hugging Face 모델을 쉬운 말로 설명하면 RunInfra의 에이전트가 벤치마크를 돌리고 서빙 스택을 조정해 실측 결과를 돌려준다. 거기서 살아 있는 엔드포인트를 유지하거나 배포 키트를 내보내면 된다. 키트는 검증 가능하고 휴대 가능하므로 나중에 자신의 하드웨어로 옮길 수 있다.
주된 제약은 비용과 범위다. 접근은 등급제가 아니라 선불 크레딧으로 돌아가므로 쓰기 전에 충전하고, 작업 흐름도 기술 쪽으로 기운다. API 키나 모델 저장소를 다뤄 본 적이 없다면 에이전트 채팅은 움직이는 부품이 많다고 느껴질 것이다. 그게 치명적인가? 판단은 본인 몫이다.
시작하기
- RunInfra 계정을 만들고 워크스페이스 잔액에 크레딧을 추가한다. 신규 계정에는 1달러 무료 크레딧이 주어지고, 최소 충전 금액은 10달러다.
- 대시보드에서 API 키를 생성하고 베이스 URL을
https://api.runinfra.ai/v1로 설정한다. - 호스팅 모델이라면 기존 OpenAI 또는 Anthropic 클라이언트를 이 베이스 URL로 향하게 하고 공개된 모델을 고른다. 사용자 지정 모델이라면 그 Hugging Face 이름을 채팅 에이전트에 붙여 넣는다.
- 에이전트가 보고하는 벤치마크 결과를 살펴본 뒤 엔드포인트를 선택하거나 배포 키트를 내보낸다.
- 엔드포인트를 앱이나 코딩 도구에 연결하고 잔액 대비 사용량을 추적한다.
제품 정보
RunInfra의 요금, 지원 플랫폼, 성능을 한눈에 확인해 보세요.
추천 대상
이 도구가 가장 잘 맞는 사용자, 작업, 상황입니다.
사용자
- AI 기능을 출시하는 1인 개발자와 소규모 팀
- 조정이 필요한 Hugging Face 모델을 가진 머신러닝 엔지니어
- 비용을 따지는 개발자
작업
- 기존 앱에 호스팅 제공자를 끼워 넣기
- 한 모델의 서빙 구성을 비교하기
- 관리형 호스팅에서 벗어나기
활용 상황
- Claude Code, Codex, Cline 같은 코딩 에이전트를 하나의 워크스페이스 키로 오픈 웨이트 모델에 연결하기.
- 아직 GPU가 없고 무작정 빌리고 싶지 않을 때 시제품 엔드포인트를 세우기.
- 공급자를 바꿔도 재작성이 되지 않도록 모델을 휴대 가능하게 유지하기.
주요 기능
OpenAI 호환 및 Anthropic 호환 API
RunInfra는 채팅 완성과 Responses를 OpenAI 형식으로, Messages를 Anthropic 형식으로 제공한다. 코드가 이미 두 제공자 중 하나와 대화한다면 바꾸는 것은 주로 베이스 URL과 키다. 이전 비용이 적게 든다. 하나의 워크스페이스가 서로 다른 SDK로 만든 앱을 함께 처리할 수 있다는 점도 이점이다.
채팅 기반 모델 최적화
에이전트 채팅에서 Hugging Face 모델을 지정하고 필요한 것을 설명한다. 에이전트가 벤치마크를 돌리고 서빙 스택을 조정하며 약속이 아니라 실측 결과를 보고한다. 조정 단계가 내 일로 남지 않고 대신 처리된다는 점이 RunInfra를 단순 모델 호스트와 구분한다.
휴대 가능한 배포 키트
최적화가 끝나면 엔드포인트를 배포하거나 배포 키트를 내보낼 수 있다. 키트는 검증 가능하므로 무엇이 바뀌었는지 읽을 수 있고, 휴대 가능하므로 자신의 하드웨어에서 실행할 수 있다. 조정 작업이 특정 공급자보다 오래 살아남기를 바랄 때 중요하다.
하나의 워크스페이스 잔액
에이전트 채팅, 최적화 실행, 배포된 엔드포인트, 모델 API 호출이 모두 같은 잔액에서 빠져나간다. 살 플랜은 없고 쓰는 만큼 크레딧을 넣는다. 1크레딧은 1달러라 계산은 단순하게 유지된다.
폭넓은 코딩 에이전트 지원
RunInfra는 Claude Code, Codex, OpenCode, Aider, Cline, Zed 등 여러 코딩 도구에 대한 연결 절차를 공개한다. 늘 쓰는 에디터나 터미널 안에서 오픈 웨이트 모델을 쓰고 싶을 때 합리적인 대체 백엔드가 된다. 설정은 추측이 아니라 문서로 제공된다.
장단점
장점
- GPU 선택과 프로비저닝이 필요 없어 모델 자체 호스팅에서 가장 오류가 잦은 부분을 없앤다.
- 구독 없는 선불 크레딧이라 가벼운 사용자가 매달 최소 비용을 내지 않는다.
- 엔드포인트가 OpenAI와 Anthropic 형식을 쓰므로 기존 코드 대부분은 URL과 키 교체만으로 충분하다.
- 내보낼 수 있는 배포 키트가 조정 작업을 RunInfra 밖에서도 쓸 수 있게 한다.
- 폭넓은 코딩 에이전트를 위한 공개된 연결 경로가 있다.
단점
- 작업 흐름이 API와 모델 저장소에 익숙하다고 전제하므로 비기술 사용자에게는 거칠게 느껴진다.
- 선불 크레딧이라 잔액이 0일 때 호출은 아무 작업도 하기 전에 402를 돌려주므로 잔액을 살펴야 한다.
- 라이브러리에 RunInfra의 카테고리가 없어 정확히 어느 제품군에 속하는지는 제품 데이터만으로 확정되지 않는다.
자주 묻는 질문
두 가지를 한다. 호스팅하는 오픈 웨이트 모델을 OpenAI 호환 또는 Anthropic 호환 API로 호출할 수 있고, 채팅에서 Hugging Face 모델을 넘겨 에이전트가 서빙 스택을 엔드포인트나 휴대형 키트로 조정하게 할 수 있다.
관련 콘텐츠
RunInfra와 관련된 도구, 스킬, 아티클을 살펴보세요.
RunInfra 대안
Forefront
Forefront · 코딩Forefront는 오픈소스 AI로 무언가를 만드는 웹 플랫폼이다. 대표적인 오픈소스 언어 모델을 자신의 데이터로 미세 조정하고, 성능을 평가하고, API로 실행하거나 내보내 직접 호스팅할 수 있다. 폐쇄형 플랫폼의 편의를 원하면서도 모델과 데이터의 소유권은 놓지 않으려는 개발자가 대상이다.
Startkit
StartKit.AI · 코딩Startkit은 AI SaaS와 AI 래퍼 제품을 만들기 위한 보일러플레이트다. 지루한 부분을 미리 연결해 둔 AI 스타트업 보일러플레이트라고 생각하면 된다. 인증, Stripe와 Lemon Squeezy 결제, 사용량 제한, 트랜잭션 이메일, 그리고 OpenAI, Anthropic, Groq, Llama와 통신하는 AI API 스타터 키트가 포함된다. 저장소를 복제하고 가격을 정한 뒤 사용자가 실제로 돈을 내는 부분에 착수하면 된다. React와 Tailwind 위의 Next.js로 만들어졌기 때문에 보일러플레이트 코드의 상당 부분이 이미 익숙하게 느껴진다.
Testim
Tricentis · 코딩Testim은 웹, 모바일, Salesforce 애플리케이션 전반에 걸쳐 엔드투엔드 테스트를 만들고 실행하는 AI 기반 테스트 자동화 플랫폼이다. 머신러닝에 기대어 인터페이스가 바뀌어도 테스트를 안정적으로 유지하므로, 팀은 깨진 셀렉터를 고치는 데 쓰는 시간을 줄인다. 오늘부터 쓸 수 있는 자동화 테스트 도구치고 나쁘지 않다. 브라우저에서 동작을 녹화해 테스트를 만들고, 더 세밀한 제어가 필요하면 JavaScript를 더한다. 바쁜 QA 팀에게 탄탄한 선택이다.