Together AI
Together Computer, Inc. · コーディング
Together AIは、生成モデルの実行・ファインチューニング・学習を行う開発者とチーム向けのAIクラウドプラットフォームだ。
Together AI について
Together AIとは
Together AIは、本番環境のAIに向けたフルスタックなクラウドプラットフォームで、オープンソースモデルと高速な推論を軸に作られている。チャット、視覚、画像、音声、埋め込みのモデルをひとつのAPIから呼び出せるカタログと、自前のモデルを学習・ファインチューニングするためのGPUが揃う。自前のインフラを構築せずにAI機能を出荷したい開発者やプロダクトチームが対象だ。
短く言えば、これはアプリではなくインフラである。
売りは速度とコストだ。Together AIによれば、このプラットフォームは人気のオープンモデルを基準構成の数倍速く動かし、最適化したハードウェアで提供することでトークンあたりの価格を低く抑える。サーバーレス推論は100万トークン単位、予約エンドポイントとGPUクラスタは時間単位で課金される。
難点は何か。開発者向けのプラットフォームであり、チャットアプリではない。消費者向けのUIもチャット画面もない。使いやすいUIが欲しいなら別を当たってほしい。コードを半日で接続できるOpenAI互換エンドポイントが欲しいなら読み進めてほしい。
はじめ方
- Together AIのダッシュボードでアカウントを作り、設定ページからAPIキーを取得する。
- PythonまたはJavaScriptのSDKを入れるか、OpenAI互換エンドポイントに生のHTTPリクエストを送る。
- カタログからモデルを選び、最初のchat completionsリクエストを送ってキーが機能するか確かめる。
- プロンプトを自分のものに差し替え、ストリーミングやツール呼び出しを加え、エンドポイントをアプリに組み込む。
- トラフィックが増えたら、サーバーレス推論から専用エンドポイントへ移すか、学習用にGPUを予約する。
AIツール情報
Together AIの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- 開発者：オープンなチャット・画像・音声モデルを、複数プロバイダを使い分ける代わりに単一のOpenAI互換APIから呼び出す。
- AI機能を出すスタートアップ：トークン課金のサーバーレス推論で始め、プロダクトマーケットフィットを探る間、遊休GPUに払わずに済ませる。
- モデルをファインチューニングするMLチーム：自前のハードを持たずに、借りたH100、H200、B200クラスタで学習ジョブを回す。
- 研究者：短いGPU実験をオンデマンドで立ち上げ、実行が終われば落とす。
タスク
- 本番でのLLM推論：低遅延エンドポイントの背後でモデルを提供し、トラフィックに合わせて容量を増減する。
- 自前データでのベースモデルのファインチューニング：オープンモデルを自領域に合わせ、同じプラットフォームでデプロイする。
- 大規模モデルのゼロからの学習：分散学習向けにInfiniBand接続のマルチノードGPUクラスタを予約する。
- 画像・音声・埋め込みの生成：視覚・画像・音声・埋め込みエンドポイントを同じアカウントから叩く。
- AI機能の試作：本格構築にエンジニアの時間を割く前に、数分でモデルを試す。
シーン
- チャットボットのバックエンドが要るがMLチームがないアプリ：フロントエンドをホスト型チャットエンドポイントに向け、モデル運用を丸ごと省く。
- トラフィックの波が大きいチーム：静かな日はサーバーレス推論、ローンチの山には専用容量を使う。
- コストに敏感なバッチ：夜間にバッチジョブを回し、対話リクエストより低いトークン単価で処理する。
- データ規則のある企業：モデルを実行する場所を選べるプラットフォームに、重みとワークロードを置く。
主な機能
オープンモデル向けのサーバーレス推論
Together AIは、チャットや推論のモデルから視覚、画像、音声、埋め込みのモデルまで、幅広いオープンソースモデルのカタログをホストする。どれも単一のAPIから呼び出し、100万トークン単位で払うので、事前に用意する容量はない。これにより、ひとつを選ぶ前に十数個のモデルを自分のタスクで試しやすい。
OpenAI互換API
エンドポイントはOpenAIと同じリクエスト形式に従う。つまり、既存のコードはベースURLとキーを差し替えればだいたい動く。実際のところ、すでに知っているLLM APIの形そのものだ。SDKはPythonとJavaScript向けがあり、バッチAPIを使えば大きなジョブをより低い価格で並べられる。OpenAI流のツールで既に作っているチームにとって、乗り換えはほぼ設定作業で済む。
専用・予約エンドポイント
サーバーレス推論の遅延が十分に安定しないときは、スループットを保証する専用エンドポイントへモデルを移せる。負荷がかかっても応答時間を一定に保つ必要がある本番アプリに向く。トークン課金の柔軟性と引き換えに、予約容量と予測しやすい性能を得る形だ。
GPUを持たずにファインチューニング
対応モデルを自前のデータでファインチューニングし、調整版を同じアカウントから提供できる。ベースモデルが言語は分かっても、自領域やトーン、書式のルールを知らないときに役立つ。学習と推論が同じ場所にあるため、重みをベンダー間で移す必要がない。
学習用のGPUクラスタ
Together AIはNVIDIAのH100、H200、B200、GB200を載せたベアメタルGPUクラスタを貸し出し、分散ジョブ向けにInfiniBandで接続する。数枚のGPUから数千枚まで広げ、実行が終われば落とせる。新しいB200の容量はオンデマンドで使える。長い予約なしにアイデアを試したいときには大きい。
ひとつのアカウントで複数のモダリティ
テキストに加えて、このプラットフォームは画像生成、音声、動画、文字起こし、リランキングを網羅する。マルチモーダルな製品を作るチームは、ひとつのベンダーとひとつの請求アカウントから複数の能力を引き出せる。管理する契約、キー、ダッシュボードの数が減る。
透明なトークン単価
価格はモデルごとに並び、入力、出力、キャッシュ入力のレートを分けて示し、急ぎでない作業向けに安いバッチ層も用意する。キャッシュ入力の価格は、繰り返すプロンプトのコストを大きく削れる。ベンダーを決める前に機能ごとの支出を見積もれる。営業の電話は要らない。
メリットとデメリット
メリット
- 単一のOpenAI互換APIの背後に、幅広いオープンソースモデルのカタログがある。
- サーバーレス推論は無料で始められ、事前に用意するGPU容量がない。
- キャッシュ入力とバッチの割引を含むトークン単価は見積もりやすい。
- ファインチューニング、推論、GPU学習がひとつのプラットフォームに揃い、重みがベンダー間を移動しない。
- B200を含む最新のNVIDIAクラスタに、InfiniBand接続でオンデマンドにアクセスできる。
デメリット
- 消費者向けアプリもチャット画面もビジュアルビルダーもなく、非開発者は直接使えない。
- サーバーレス推論の遅延は負荷で変動し、応答時間を厳密に一定にしたいアプリには問題になる。
- 新しいオープンモデルが出るたびにモデル構成が変わるため、固定したモデルが廃止され移行を強いられることがある。
- コストは利用量に応じて増え、重い本番トラフィックは安い入門層をすぐ超える。
よくある質問
生成AIで作るためのクラウドプラットフォームだ。開発者はオープンソースモデルの推論、自前データでのモデルのファインチューニング、借りたGPUクラスタでの学習を、すべて単一のAPIから行う。ひとつのアカウントでこの3つをまかなえる。
関連コンテンツ
Together AIに関連するツール、スキル、記事を探す。
Together AIの代替ツール
Forefront
Forefront · コーディングForefrontはオープンソースAIで構築するためのウェブプラットフォームだ。主要なオープンソース言語モデルを自分のデータで微調整し、性能を評価し、API経由で実行したり、エクスポートして自分でホストしたりできる。クローズドなプラットフォームの手軽さを求めつつ、モデルとデータの所有権にはこだわる開発者が対象だ。
Startkit
StartKit.AI · コーディングStartkitは、AI SaaSとAIラッパー製品を作るためのボイラープレートだ。面倒な部分をあらかじめ配線済みにしたAIスタートアップボイラープレートと考えればいい。認証、StripeとLemon Squeezyの決済、利用制限、トランザクションメール、そしてOpenAI、Anthropic、Groq、Llamaと通信するAI APIスターターキットが含まれる。リポジトリをクローンして価格を設定し、ユーザーが実際にお金を払う部分に取りかかれる。ReactとTailwind上のNext.jsで作られているため、ボイラープレートコードの多くはすでに見慣れたものだ。
Testim
Tricentis · コーディングTestimは、Web・モバイル・Salesforceアプリ向けにエンドツーエンドテストを構築して実行するAIテスト自動化プラットフォームだ。機械学習を頼りに、インターフェースが変わってもテストを安定させ、チームが壊れたセレクターの修正に費やす時間を減らす。今日から使い始められる自動テストツールとしては悪くない。ブラウザで操作を録画してテストを作り、より細かい制御が必要なときはJavaScriptを足す。忙しいQAチームにとって堅実な選択肢である。