Liquid Inference
Architect Financial Technologies Inc. · 코딩 · 생산성
Liquid Inference는 Architect가 운영하는 AI 추론 마켓이다. 요청마다 경매를 열어 조건을 충족하는 가장 싼 공급자에게 작업을 넘긴다.
Liquid Inference 소개
About
Liquid Inference란
Liquid Inference는 거래소처럼 움직이는 LLM 라우터다. 공급자는 자기가 서비스하는 모델마다 토큰 단가를 걸어 두고, 사용자의 요청은 조건을 만족하는 가장 싼 제안에 배정된다. 쓰는 길은 두 가지다. 브라우저 채팅 화면, 그리고 OpenAI와 Anthropic 형식을 받는 추론 API다.
이 제품이 푸는 문제는 모델이 아니라 청구서다. 같은 오픈 모델을 여러 사업자가 돌리는데도 대부분의 팀은 폐쇄형 API의 정가를 그대로 낸다. 여기서는 첫 토큰 전에 가격 상한이 고정되고, 쓰지 않은 예산은 잔액으로 돌아온다. 작업마다 낙찰 공급자와 최종 청구액을 적은 영수증도 남는다.
워크로드를 옮기기 전에 제약은 알아 두는 편이 좋다. 시장은 2026년 10월에 열렸고, 판매자 수와 취급 모델은 아직 바뀐다. 품질은 누가 낙찰되느냐에 따라 달라지며, 그래서 구매 규칙에 지연 시간, 처리량, 지역 조건이 들어 있다. 토큰당 최저 수수료도 있어서 아주 싼 모델에서는 표면의 5%보다 무겁게 작용한다.
시작하기
- liquidinference.ai에서 가입한다. 워크스페이스가 생기고 잔액, API 키, 영수증이 한곳에 모인다. 시작 크레딧이 있어 카드 없이도 첫 요청을 보낼 수 있다.
- 키 페이지에서 API 키를 만든다. 시크릿은 한 번만 보이므로 창을 닫기 전에 복사한다.
- 기존 OpenAI나 Anthropic 클라이언트의 베이스 URL을 거래소 주소로 바꾸고 키를 교체한다. 모델 이름은 거래소가 공개한 목록에 있는 것이어야 한다.
- 필요하면 요청 본문에
exchange객체를 더해 가격 상한, 첫 토큰까지의 기한, 보존 정책, 허용 공급자 목록을 지정한다. - 응답의
exchange필드나 영수증을 열어 어느 공급자가 낙찰됐고 비용이 얼마였는지 확인한다.
제품 정보
Liquid Inference의 요금, 지원 플랫폼, 성능을 한눈에 확인해 보세요.
추천 대상
이 도구가 가장 잘 맞는 사용자, 작업, 상황입니다.
사용자
- 코딩 에이전트를 돌리는 개발자
- 사용량을 예측하기 어려운 스타트업
- 증빙이 필요한 플랫폼 엔지니어
- 유휴 GPU를 가진 사업자
작업
- 비용 상한을 둔 배치 작업
- 같은 프롬프트로 모델 비교
- RAG와 검색 파이프라인
- 이미지, 음성, 녹취 구매
활용 상황
- 에이전트 루프가 반복되며 청구액이 치솟을 때
- 긴 배치 도중 공급자가 장애를 겪을 때
- 내부 도구에 쓸 가장 저렴한 LLM API를 찾지만 모든 판매자를 시험할 여유가 없을 때
주요 기능
요청마다 열리는 경매
요청은 그대로 실시간 호가창에 들어간다. 거래소는 조건을 어기는 제안을 걸러 내고, 나머지를 예상 비용과 예상 대기 시간의 합으로 정렬해 가장 좋은 제안에 작업을 준다. 가격은 생성 전에 고정되므로 최악의 청구액을 미리 안다.
직접 정하는 구매 규칙
선택 사항인 exchange 객체가 조건을 담는다. 달러 상한, 첫 토큰까지의 최대 시간, 최소 처리량, 허용 지역, 보존 금지 요구, 공급자와 모델의 허용 및 차단 목록을 넣을 수 있다. 모든 조건을 통과한 제안만 참여하므로 정책은 지원팀에 보내는 요청이 아니라 요청 본문의 필드가 된다.
첫 토큰 전 전환
낙찰 공급자가 아무 출력도 쓰기 전에 실패하면 거래소는 작업을 다음 제안으로 넘긴다. 출력이 시작된 뒤에는 바꾸지 않으므로 한 답변이 두 모델에 걸치지 않는다. 이 구분은 스트리밍 에이전트에서 중요하다. 중간에 공급자가 바뀌면 이미 보낸 도구 호출이 깨진다.
영수증과 공개 마켓 데이터
정산이 끝난 작업에는 낙찰자, 가격 상한, 토큰 사용량, 수수료를 적은 영수증이 붙는다. 계정 보유자는 실시간 호가창과 공급자별 호가, 체결 내역도 본다. 이 데이터를 요청 전에 API로 읽을 수 있어 어떤 모델이 평소보다 높은 가격에 거래되는지 확인할 수 있다.
자동 라우터와 축별 라우팅
liquid.auto를 보내면 공개 점수와 예상 비용을 기준으로 상한 안에서 모델을 고른다. premium, balanced, economy 세 가지 선호가 있다. 모델 이름에 접미사를 붙여 가장 똑똑한, 가장 빠른, 가장 싼 순으로 정렬할 수도 있다. 두 방식 모두 아래에서 경매가 돌아가므로 가격은 경쟁하는 판매자가 정한다.
기존 스택과 연결
엔드포인트는 Chat Completions와 Responses를 처리하는 OpenAI 호환 API와 Anthropic Messages 경로로 이루어진다. 공식 SDK는 베이스 URL만 바꾸면 동작한다. Claude Code, Codex, Cursor, Cline, Open WebUI, n8n, Dify, LangChain 등 여러 도구의 연결 가이드가 있다. Liquid CLI를 쓰면 같은 키로 터미널에서 코딩 에이전트를 띄운다.
GPU 보유자를 위한 판매 측
공급자는 배포를 등록하고 모델별 가격을 정해 세션 동안 호가를 낸다. 거래소는 작업을 배분하고 사용량을 계량해 대금을 정산한다. 노는 GPU가 있으면 자체 청구 시스템을 만들지 않고 수익화할 수 있고, 다른 곳에서 이미 파는 사업자는 같은 배포를 두 번째 판로로 여기에 올릴 수 있다.
장단점
장점
- 가격 상한이 생성 전에 고정되어 출력 한도를 크게 잡은 프롬프트도 예상 밖의 청구서를 만들지 않는다.
- 쓰던 SDK와 클라이언트를 그대로 둔다. 대부분 베이스 URL과 키만 바꾸면 되고 코드를 다시 쓸 필요가 없다.
- 구매 규칙이 지연 시간, 지역, 데이터 보존을 다뤄 규제나 사내 규정이 있는 작업에도 쓸 수 있다.
- 영수증과 공개 호가창이 작업별 비용과 담당 공급자를 기록한다.
- 판매 측이 있어 GPU 보유자는 유휴 자원을 채울 수 있다. 별도 청구 시스템을 만들 필요가 없다.
단점
- 시장이 새롭다. 2026년 10월에 문을 열어 기존 라우터보다 판매자가 적고, 취급 모델 범위도 예고 없이 바뀔 수 있다.
- 100만 토큰당 0.01달러의 최저 수수료가 싼 제안과 무료 제안에 크게 작용한다. 저가 모델에서는 실질 수수료가 공급자 몫의 절반에 가까워진다.
- 출력 품질은 낙찰자에 달려 있다. 경매가 최적화하는 것은 가격과 신고된 성능이지 개별 답변의 품질이 아니며, 공개 점수가 높다고 더 좋은 답이 나오지도 않는다.
- 출력이 시작되면 다른 공급자로 옮길 수 없다. 중간에 품질이 떨어지면 불완전한 답변과 재전송이 남는다.
자주 묻는 질문
Liquid Inference는 Architect Financial Technologies가 운영하는 LLM 추론 거래소다. 공급자가 제공 모델의 가격을 공개하고, 각 요청은 구매자의 비용, 속도, 지역, 데이터 규칙을 만족하는 가장 싼 제안에 배정된다. 웹과 API, CLI에서 쓸 수 있다.
관련 콘텐츠
Liquid Inference와 관련된 도구, 스킬, 아티클을 살펴보세요.
Liquid Inference 대안
Base Code
Base44 (Wix) · 코딩 · 생산성Base Code는 Base44가 만든 공유 클라우드 개발 환경이다. 팀은 기존 GitHub 저장소에 대한 변경을 채팅으로 설명하고, 미리보기로 확인한 뒤 풀 리퀘스트로 돌려보낸다.
Google EmbeddingGemma 2
Google DeepMind · 글쓰기 · 이미지 · 코딩Google EmbeddingGemma 2는 7억 4000만 파라미터의 오픈 모델로, 텍스트와 코드, 이미지, 오디오, 영상 프레임을 하나의 768차원 공간에 벡터로 바꿔 스마트폰과 노트북에서 실행한다.
GitGlow
GitGlow · 코딩 · 생산성GitGlow는 내 코드와 AI 에이전트의 변경을 한 리뷰에 모으는 데스크톱 Git 클라이언트다. 배포 전에 내 기계에서 무엇이 나가는지 확인할 수 있다.