Twigg
Twigg · 生産性向上 · その他
Twiggは会話コンテキストを保存し、調整し、ルーティングしてくれるステートフルなLLM APIだ。チャットを一度作れば、次に送るのは次のイベントだけであり、それをどのモデルに送るかを指定する。スレッドを保存し、各モデルのコンテキストウィンドウに合わせて切り詰め、Anthropic、OpenAI、Google、xAI、Fireworks、OpenRouter向けに変換し、回答をストリーミングで返し、各リクエストのコストを報告する。 コンテキスト管理はLLM上で開発する際の退屈な部分だ。プロバイダーごとに作り直す必要があるだろうか。
Twigg について
Twiggとは何か
Twiggはホスト型のコンテキスト管理APIであり、大規模言語モデル上でアプリを開発する開発者向けのコンテキストストア、アセンブラ、モデルルーターだ。自分でメッセージテーブルを設計し、トランスクリプトがウィンドウを超えたときに何を捨てるかを決めるコードを書き、プロバイダーごとに変換層を維持する代わりに、次のターンを送ればTwiggが仕組みを処理する。アプリケーションとモデルプロバイダーの間に位置し、あなたが引き続き持つ部分、つまりエージェントループとツール自体には関与しない。
中心となる約束はポータビリティだ。多くのプロバイダーAPIでは、会話はそれを生成したものの中に住むため、保存されたスレッドは同時に、あなたが離れられない理由でもある。Twiggは会話をモデルの隣に保存する。モデルはリクエストごとの選択であり、チャットの属性ではない。だからあるモデルで始めたスレッドを、1つのフィールドを変えるだけで別のモデルで続けられる。記録の中身は単一プロバイダーの方言で書かれていない。
範囲は明確であり、それが重要だ。Twiggはカタログ内のすべてのモデルにまたがる、ツールを用いた会話ターンを扱う。埋め込み、画像生成、バッチ処理、ファインチューニングは行わず、ツールをあなたの代わりに実行することもない。プロジェクトがそれらを必要とするなら、別の場所にある。
はじめかた
- twigg.ai/dashboard/api-keysのコンソールでAPIキーを作成する。キーは
tw_live_…のような形式だ。 POST /api/v1/chatsでチャットを作成し、acme/proj-7のような名前空間パスを選ぶ。返されたチャットidを保持する。POST /api/v1/chats/{chat_id}/responsesにターンを送る。モデル名と、プロンプトやツール結果といった新しい入力だけを付ける。- サーバー送信イベントのストリームを読んで回答を得る。使用量とコストを持つ
doneイベントで終わる。 - モデルがツールを要求した箇所では、自分のコードでそれを実行し、結果を同じエンドポイントに送る。
AIツール情報
Twiggの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- バックエンドとAIのエンジニア
- マルチモデル機能を動かすプロダクトチーム
- プロバイダー依存を避けたいスタートアップ
タスク
- マルチターンのアシスタントを構築する
- リクエストごとのコスト監査
- ツール呼び出しのワークフロー
- 会話の途中でモデルを切り替える
シーン
- 難しいチケットで、高速で安価なモデルからより強力なモデルへエスカレーションするサポートボット。
- メッセージとツール結果のデータベーススキーマを設計せずにエージェントを試作する。
- 同じトランスクリプトでプロバイダーを比較し、自分のユースケースでどれが良い答えを出すかを見る。
主な機能
ステートフルな会話の保存
Twiggは管理されたコンテキストストアとして会話をあなたに代わって保持するため、トランスクリプト全体を再送することはない。チャットを一度作ったら、その後は起きたばかりのこと、たとえばプロンプトやツール結果だけを送る。保存されたスレッドが、アプリが読み書きする唯一の記録になる。
プロバイダー変換層
同じチャットをAnthropic、OpenAI、Google、xAI、Fireworks、OpenRouterのモデルで処理できる。Twiggは保存されたコンテキストを、選んだプロバイダーが期待するスキーマに変換するため、プロバイダーごとの形式を維持しなくてよい。モデル自身の文字列を送る必要はなく、代わりにカタログの項目を指定する。
リクエストごとのモデルルーティング
モデルはリクエストごとの選択であり、チャットの属性ではない。1つのフィールドを変えるだけで会話の途中でモデルを切り替えられる。あるモデルで始めて別のモデルで続ける。これにより、コストや品質によるルーティングが移行ではなく1行の変更になる。
コンテキストの予算と圧縮
各名前空間は独自のルールを持ち、コンテキスト予算や保持ポリシーを含む。トランスクリプトがモデルのウィンドウを超えると、Twiggはそれを圧縮し、どこで起きたかを警告する。圧縮の実行は同じ料金で独立した項目として課金される。
実行単位のコスト報告
各インタラクションは実行であり、どのコンテキストを組み立てたか、どのモデルが処理したか、いくらかかったかを記録する。done イベントが使用量とコストを返し、実行idはリクエストを監査するために使う。価格は100万トークンあたりで示され、プラットフォームのマージンを含む。
整理のための名前空間
名前空間は自分で選ぶパスで、acme/proj-7 のように指定し、チャット作成時に設定され、後から変更できない。一覧表示のためにチャットをまとめ、どの指示、ツール、保持ポリシー、コンテキスト予算が適用されるかを決めるスコープキーでもある。パスの上位で公開された設定はその下に適用される。
ツールを意識したストリーミング
応答は常にサーバー送信イベントとしてストリーミングされる。テキストの差分に加えて、ストリームはツール呼び出し、設定と変換の警告、進行中の圧縮作業を報告する。Twiggはツールが呼ばれたことを伝えるが、あなたの代わりに実行することはない。
メリットとデメリット
メリット
- 会話が単一のプロバイダーの外に住むため、モデルを変えても履歴が孤立しない。
- トランスクリプト全体ではなく最新のイベントだけを送るので、管理するコードとペイロードが減る。
- 1つのAPIキーでAnthropic、OpenAI、Google、xAI、Fireworks、OpenRouterのモデルに届く。
- 各実行が処理したモデルとコストを報告するため、請求と予算管理に役立つ。
- SDKは不要で、サーバー送信イベントを読めるHTTPクライアントがあれば十分だ。
デメリット
- 非ストリーミングモードがないため、すべての統合がサーバー送信イベントを扱う必要があり、単純なJSON呼び出しより手間がかかる。
- ツールを実行することはなく、ツール層は自分で作り動かし続けることになる。
- 範囲はツール付きの会話ターンまでで、埋め込み、画像生成、バッチ、ファインチューニングはないため、混在したワークロードには別のサービスが要る。
- チャットを作成すると名前空間は変更できず、後から整理し直すには新しいチャットを作ることになる。
よくある質問
単一のAPIの背後でLLMの会話コンテキストを保存、組み立て、ルーティングする。チャットを作成し、モデル名を付けて次のイベントを送れば、そのモデルに合わせてコンテキストを調整し、返信をストリーミングする。
関連コンテンツ
Twiggに関連するツール、スキル、記事を探す。
Twiggの代替ツール
Swms
Swms AI · ライティング · 生産性向上 · ビジネスSwmsは、仕事の簡単な説明をそのまま使える安全書類に変えるAI安全コンプライアンスツールだ。プロジェクト、職種、把握している危険を書けば、安全作業方法書、作業ハザード分析、安全作業手順書、RAMS、安全データシートを数秒で作成する。Oscarというチャットアシスタントも付いており、職場の安全に関する質問にどんな言語でも答える。建設、鉱業、運輸、倉庫のチームが、作業日を削る書類仕事を減らすために使っている。
Wordly AI Translation
Wordly · 音声・言語 · 生産性向上Wordly AI Translationは、会議・カンファレンス・イベント向けに作られたリアルタイムAI翻訳・字幕プラットフォームだ。60以上の言語でライブ翻訳、字幕、文字起こし、要約を提供し、参加者は専用ヘッドセットを使わず、QRコードを読み取るかリンクを開くだけで参加できる。Zoom、Microsoft Teams、Google Meet、Webexと連携し、セッションごとに人間の通訳を雇わずに多言語対応したい組織に向く。それだけのことだ。
Rows
Rows (Superhuman) · 生産性向上 · ビジネスRows は、50以上のソースからライブデータを取り込み、SQLクエリや入れ子の数式ではなく平易な言葉で操作できるAIスプレッドシート兼データ分析ツールだ。PDFから数字を抜き出し、広告プラットフォーム、データベース、銀行口座をつなぎ、AIにレポートの作成、データセットの結合、自動で再計算するモデルの構築を頼める。ブラウザで動き、スプレッドシートのように扱え、現在は Superhuman の傘下にある。