Awan LLM

무료 요금제를 포함한 모든 요금제가 모델별 컨텍스트 한도까지 토큰 생성을 무제한으로 내건다. LLM API 월정액 구조라 지불하는 것은 요금제 값이고 입력·출력 토큰 값이 아니므로 긴 프롬프트도 긴 응답도 추가 비용이 없다. 많이 쓸수록 유리해지고, 바쁜 달에도 청구서가 놀라게 하지 않는다.

OpenAI 호환 API라서 요청은 https://api.awanllm.com/v1/chat/completions 로 가며 model과 messages 처리 방식이 OpenAI와 같다. 여기에 top_k, repetition_penalty 같은 샘플링 제어가 더해진다. Quick Start에 Python, TypeScript, shell 예제가 있어 base URL과 키만 바꾸면 대부분의 OpenAI SDK가 동작한다. 스트리밍도 지원하므로 전체 응답을 기다리는 채팅 화면에서 체감 차이가 크다.

하나의 전역 할당량 대신 Awan은 한도를 소형·중형·대형 모델 등급으로 나누고 요금제마다 분당·일일 몫을 배정한다. Lite는 하루 소형 200건, 대형 10건이고, Pro는 80,000건과 30,000건으로 올라가며, Max는 일일 한도를 없애고 병렬 요청을 허용한다. 분당 상한은 저가 요금제의 20건에서 Max의 200건까지다.

Llama 3.1 API의 현재 주력은 Meta-Llama-3.1-8B-Instruct와 Meta-Llama-3.1-70B-Instruct이며 둘 다 131,072 토큰 컨텍스트를 표기한다. 어려운 추론과 장문 작성은 70B가 맡고, 8B는 응답이 빠르고 요청 한도를 덜 먹는다. Awan은 모델별 예상 속도도 공개하는데, 8B 단일 요청은 초당 약 50토큰, 70B는 약 20토큰이다.

Meta 원본 가중치 외에 Awan이 직접 만든 Llama 3 8B 파생판이 카탈로그에 있다. Dolfin은 지시 준수를 중시해 거부를 줄였고, Cumulus는 이야기와 롤플레이에 맞춰 거부 자체가 없으며, abliterated 버전의 Instruct가 나란히 있다. 쓰임새는 좁지만 소설과 캐릭터 대화에서는 필터가 걸린 어시스턴트와 전혀 다르게 움직인다. 이 회사의 검열 없는 Llama 모델 라인업이다.

Awan은 개인정보 처리방침에서 프롬프트와 생성 결과를 기록하지 않는다고 밝히고, 첫 페이지에서도 같은 설명을 반복한다. 고객 자료나 미공개 원고, 사적인 대화를 API로 보내는 사람에게는 이 방침이 선택을 가르는 이유가 된다. 다만 감사를 거친 보증이 아니라 회사 입장이므로, 규제 대상 데이터를 다룬다면 계약 조건을 따로 확인해야 한다.