Awan LLM
Awan LLM · コーディング · その他
Awan LLMはLlamaモデルを月額固定で使えるサブスク型APIだ。トークン単価ではなく月額で課金し、OpenAI形式のエンドポイントを備え、無料から月80ドルまでのプランがある。
Awan LLM について
About
Awan LLMとは
Awan LLMはトークン無制限のLLM APIで、オープンなLlamaモデルへのアクセスをトークン単位ではなく月単位で貸し出す。アカウントを作り、キーを発行し、OpenAIと同じ形のchat completionsエンドポイントにリクエストを送る。千トークンでも一億トークンでも請求額は変わらない。
ハードウェアは自社で持っている。GPUとデータセンターを自前で運用し、オーバークロックまでして負荷を分散していると同社は説明する。月5〜80ドルでトークン無制限を掲げられるのは、この保有形態があってこそだ。社名はインドネシア語の「雲」に由来し、トークン費用がプロジェクトの予算を超えてしまった層に向けて作られている。
向き不向きを分ける制約は二つある。公開カタログはLlama 3とLlama 3.1の8B・70B、それにコミュニティ製の微調整版だけで、GPTもClaudeもGeminiもMistralもない。もう一つは、プランとモデル規模ごとに1分あたり・1日あたりのリクエスト上限が設定されている点だ。トークン無制限はリクエスト無制限を意味しない。
導入の流れ
- awanllm.comでアカウントを作り、プランを選ぶ。Liteは無料でカード登録も不要なので、コードが想定どおりに動くかを確かめる用途には足りる。
- ダッシュボードでAPIキーを発行し、アプリから読める場所に置く。
- https://api.awanllm.com/v1/chat/completions にモデル名とmessages配列を付けて最初のリクエストを送る。Quick StartページのPython、TypeScript、shellのサンプルをそのまま使うのが速い。
- レート制限を監視する。大型モデルの1日枠を使い切ったら、作業を小型モデルへ移すか、カウンタのリセットを待つ。
- 有料プランへ移る判断は、トークンではなくリクエスト上限が作業を止め始めたときに行う。
AIツール情報
Awan LLMの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- AIとの長い会話を楽しむ人：トークンを数えないので、予算の時計を気にせず何日も会話を続けられる。日常の軽い利用ならLiteで費用はゼロだ。
- 予算の薄い個人開発者：月5ドルのCoreにすればトークンの計算をコードから追い出せる。ログを取り、リトライし、プロンプトを試す作業を気兼ねなく回せる。
- 創作やロールプレイに微調整モデルを使いたい人：CumulusとDolfinは物語とキャラクター向けに調整され、拒否が少ない。主要APIではなかなか見つからない組み合わせだ。
- 大量のテキストを固定費で処理するチーム：要約、分類、書き換えをバッチで回しても月の請求は一定で、試すたびに膨らむ請求書と無縁でいられる。
タスク
- 大量テキストの処理：数千件の文書を要約し分類し書き換えても、ProやMaxなら通過する文字量に関係なく費用は同じ。夜間バッチと相性がいい。
- 長文の下書き：Llama 3.1の131,072トークンのコンテキストがあれば、報告書一式やコードファイルを分割せず1回のリクエストで流し込める。
- チャットボットやエージェントのバックエンド：リクエストがOpenAI形式なので、既存のSDKやフレームワークはベースURLの差し替えで動く。他社で作った試作も半日で引っ越せる。
- 検閲なしの創作：コミュニティ製の微調整版は、フィルタ付きエンドポイントが拒むプロンプトも受け付ける。ホラーやフィクション、キャラクター会話で効いてくる。
シーン
- 個人プロジェクトが突然伸びたとき：定額なのでバズった翌月に請求が跳ねない。代わりに1日のリクエスト上限が実質的な天井になる。
- プロンプト集の検証：同じプロンプトを百回走らせて出力を比べても、使用量メーターを横目で見る必要がない。
- 手元の開発ツールを遠隔モデルにつなぐ：コード補完もログ解析もテスト生成も、鍵1本と請求書1枚で済む。
主な機能
月額固定のトークン無制限
無料プランを含む全プランが、各モデルのコンテキスト上限までトークン生成を無制限としている。支払うのはプラン料で、入力も出力も従量課金ではない。長いプロンプトを投げても長い回答が返っても追加費用はゼロだ。使うほど割安になり、忙しい月でも請求書に驚かされない。
OpenAI形式のChat Completions
OpenAI互換APIとして、リクエスト先は https://api.awanllm.com/v1/chat/completions で、modelとmessagesの扱いはOpenAIと同じだ。加えてtop_kやrepetition_penaltyといったサンプリング制御が使える。Quick StartにはPython、TypeScript、shellの例があり、ベースURLとキーを差し替えるだけで多くのOpenAI SDKが動く。ストリーミングにも対応しており、全文を待たされるチャット画面では差が大きい。
モデル規模ごとに分かれたレート制限
全体で一つの枠ではなく、Awanは制限を小型・中型・大型のモデルクラスに分け、プランごとに毎分と毎日の枠を割り当てる。Liteは1日あたり小型200件・大型10件、Proは80,000件と30,000件、Maxは1日上限を外して並列リクエストも許す。毎分の上限は安価なプランの20件からMaxの200件まで幅がある。
長いコンテキストを持つLlama 3.1
現在の主力はMeta-Llama-3.1-8B-InstructとMeta-Llama-3.1-70B-Instructで、どちらも131,072トークンのコンテキストを掲げる。難しい推論や長文執筆は70Bが担当し、8Bは応答が速くリクエスト枠も食いにくい。推定速度も公開されており、8Bの単発リクエストで毎秒約50トークン、70Bで約20トークンだ。
創作向けのコミュニティ微調整モデル
Metaの原版以外に、Awan自身が用意したLlama 3 8Bの派生がある。指示追従を重視して拒否を減らしたDolfin、物語とロールプレイに振り切って拒否しないCumulus、そしてabliterated版のInstructが並ぶ。用途は狭いが、フィクションやキャラクター会話ではフィルタ付きアシスタントとはまったく挙動が違う。同社の検閲なしLlamaモデル群である。
プロンプトを記録しない
Awanはプライバシーポリシーでプロンプトも生成結果も記録しないと明言し、トップページでも同じ説明を繰り返す。クライアントの素材や未公開原稿、個人的な会話をAPIに通す人にとっては、この方針が選定の決め手になる。ただし監査済みの保証ではなく事業者の表明なので、規制対象のデータを扱うなら契約条件を別途確認したい。
メリットとデメリット
メリット
- トークン無制限により、トークン計算をコードからも予算からも外せる。
- 無料のLiteは試用版ではなく正式なプランで、支払い方法の登録も要らない。
- リクエストがOpenAIのchat形式なので、既存SDKやエージェント系フレームワークはベースURLの変更だけで動く。
- Llama 3.1の131,072トークンのコンテキストで、長い文書を1回で処理できる。
- 最上位でも月80ドルで、本気で量を流す人には安い。
デメリット
- カタログはLlamaのみで、掲載版もLlama 3と3.1にとどまる。GPT、Claude、Gemini、新しいLlamaには届かない。
- トークンは無制限でも、Max以外のプランには1日のリクエスト上限があり、壁になるのはトークンではなく処理量だ。
- 決済はPayPalのみで、使えないカードや法人アカウントがある。
- サポートはメールアドレスだけで、Enterprise未満ではステータスページもSLAも公開稼働実績もない。
よくある質問
Awan LLMは、オープンなLlamaモデルをトークン従量ではなく月額サブスクで提供するAPI事業者だ。プランを契約し、chat completionのリクエストをエンドポイントへ送り、リクエスト制限の範囲でモデルのコンテキストが許すだけのトークンを生成する。
関連コンテンツ
Awan LLMに関連するツール、スキル、記事を探す。
Awan LLMの代替ツール
Forefront
Forefront · コーディングForefrontはオープンソースAIで構築するためのウェブプラットフォームだ。主要なオープンソース言語モデルを自分のデータで微調整し、性能を評価し、API経由で実行したり、エクスポートして自分でホストしたりできる。クローズドなプラットフォームの手軽さを求めつつ、モデルとデータの所有権にはこだわる開発者が対象だ。
Startkit
StartKit.AI · コーディングStartkitは、AI SaaSとAIラッパー製品を作るためのボイラープレートだ。面倒な部分をあらかじめ配線済みにしたAIスタートアップボイラープレートと考えればいい。認証、StripeとLemon Squeezyの決済、利用制限、トランザクションメール、そしてOpenAI、Anthropic、Groq、Llamaと通信するAI APIスターターキットが含まれる。リポジトリをクローンして価格を設定し、ユーザーが実際にお金を払う部分に取りかかれる。ReactとTailwind上のNext.jsで作られているため、ボイラープレートコードの多くはすでに見慣れたものだ。
Testim
Tricentis · コーディングTestimは、Web・モバイル・Salesforceアプリ向けにエンドツーエンドテストを構築して実行するAIテスト自動化プラットフォームだ。機械学習を頼りに、インターフェースが変わってもテストを安定させ、チームが壊れたセレクターの修正に費やす時間を減らす。今日から使い始められる自動テストツールとしては悪くない。ブラウザで操作を録画してテストを作り、より細かい制御が必要なときはJavaScriptを足す。忙しいQAチームにとって堅実な選択肢である。