Reflection 70B
HyperWrite · ライティング · チャットボット
Reflection 70BはHyperWriteの重み公開モデル。Llama 3.1 70Bを土台にした自己修正LLMで、答える前に自分の推論を検証する。
Reflection 70B について
Reflection 70Bとは
Reflection 70BはHyperWriteの推論重視の言語モデルで、2024年9月初めに公開され、MetaのLlama 3.1 70B Instructを土台にしている。売りはReflection-Tuningと呼ばれる学習手法にある。モデルは思考の連鎖の中の誤りを見つけ、最終回答を出す前に修正することを学ぶ。思考は<thinking>タグの中に、最終回答は<output>タグの中に書き、推論の途中で誤りに気づくと<reflection>ブロックを差し込む。
この発想は実際の不満を突いている。標準的なLLMは幻覚を起こす。それに気づくことはほとんどない。Reflection 70Bは気づくように訓練された。HyperWriteによれば、このモデルはMMLU、MATH、IFEval、GSM8KといったベンチマークでGPT-4oを、さらにはLlama 3.1 405Bをも上回った。その数字が公開時に莫大な注目を集めた。
初期の熱狂は第三者の検証に耐えなかった。Artificial Analysisを含む独立系の評価者は、目玉のスコアを再現できなかった。後の検証では、Hugging Faceで公開されたバージョンが、土台となった素のLlama 3.1 70Bより成績が悪いことが分かった。ホスト版APIがリクエストをこっそりClaudeに流していると非難する利用者もいた。HyperWriteのMatt Shumerは、モデルが公表したベンチマークに届いていないことを認めた。
だから正直な結論は割れる。Reflection-Tuningというアプローチは確かに面白い。出荷されたモデルは自社の宣伝文句に一度も追いつけなかった。こうした重み公開モデルのリリースは、公開時の触れ込みが過剰でも、なお研究する価値がある。
はじめかた
- Hugging Faceのモデルページ（mattshumer/Reflection-70B）かミラーを開き、ライセンス条件に同意する。
- 重みをダウンロードするか、ローカル構築を省いてホスト型推論プロバイダーで動かす。
- Llamaのチャットテンプレートを共有するため、どのLlamaモデルでも使うのと同じコードで読み込む。
- 推論用のシステムメッセージを渡し、思考、反省、回答の各セクションを順に出力させる。
- モデルがどこで考えを変えたか見たいなら
<reflection>タグを読む。
AIツール情報
Reflection 70Bの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- AI研究者：自己修正の学習と、ベンチマークの主張をどう検証すべきかの事例研究として有用
- ローカルな推論ツールを作る開発者：重みが公開されているので中身を調べ、既存のLlamaパイプラインに差し込める
- 反省プロンプトに興味がある愛好家：思考、反省、出力の構造は読みやすく、学びやすい
タスク
- 数学と論理の問題：段階的な推論形式は多段の文章題に向く。余分なトークンを気にしなければ
- 自己点検パイプラインの試作：自らの誤りを指摘して直すモデルの動作例
- 比較研究：自己修正が自分の作業で精度を本当に上げるか試すための良い基準点
シーン
- 閉じたAPIにデータを送らずに推論モデルを動かす：重みは自分でホストする
- 評価の落とし穴を学ぶ：このモデルの来歴は、独立したベンチマークがなぜ重要かを端的に示す教訓
- 少ない予算で反省プロンプトを試す：無料の重みと安い推論で小さなテストが簡単にできる
主な機能
Reflection-Tuning
Reflection-Tuningはこのモデルに名前を与えた手法。最終回答だけで学習するのではなく、モデルが自分の推論を見直し、生成の途中で書き直すことを覚える。実際には、モデルは思考の下書きを作り、それを点検し、誤りと判断した部分を書き換えてから回答を出す。この順序が発想のすべてで、直してから確定する。
構造化された思考と出力のタグ
モデルは特殊トークンで内部作業と回答を切り分ける。推論は<thinking>タグの中に、最終応答は<output>タグの中に入る。この切り分けで下書きが可視化され、モデルがなぜその結論に至ったかを追跡したいときや、思考を隠して回答だけ見せたいときに役立つ。
インラインの自己修正
モデルが誤りに気づくと、思考の中に<reflection>ブロックを出す。そのブロックを読めば、推論がどこで向きを変えたか正確に分かる。正解が一つに定まる課題では、その見える転換点が答えそのものより役立つことが多い。モデルが自分の失敗を埋めずに捕まえているからだ。
Llama互換性
Llama 3.1 70B Instructを土台にし、標準のLlamaチャット形式を保つため、Reflection 70BはLlamaをすでに支えるツールやパイプラインにそのまま入る。Llamaモデルを以前に配備したことがあれば、読み込みコードもサービング設定もほとんど変えずに流用できる。この互換性のおかげで、最初から誰もが手軽に試せた。
高精度な推論への注力
モデルは速度より正確さが報われる課題を狙う。多段の数学や論理などだ。推論を別々のステップに分け、それを再確認するために多くのトークンを使う。代償はレイテンシ。回答が届くまでに時間がかかり、トークン費用も上がる。反省するとは、最後の一行を得る前に余分なテキストを書くという意味だからだ。
重みの公開
重みは公開されているので、自前のハードウェアで動かしたり、微調整したり、反省の学習が挙動をどう変えたか研究したりできる。重みが公開されているとは、単一ベンダーの料金やレート制限に縛られないということでもあり、どの規模で試すにしても重要な点だ。
メリットとデメリット
メリット
- ダウンロードして中身を調べ、自分でホストできる公開の重み
- Llama 3.1 70Bを土台にしているので、既存のLlamaツール群とサービングスタックで動く
- 思考、反省、出力のタグを通じて自己修正が見える
- ローカル実行は無料。GPUを管理したくないときは安いホスト型推論も使える
デメリット
- 独立したベンチマークは公開時の性能主張を裏づけなかった
- Hugging Faceの一部リリースは素のLlama 3.1 70Bより低いスコアだったとされる
- 長い思考と反省のステップがレイテンシとトークン費用を押し上げる
- ホスト版APIはトラフィックをClaudeに流しているとの非難を招き、信頼を損ねた
よくある質問
HyperWriteのオープンソース言語モデルで、Llama 3.1 70B Instructを土台にし、Reflection-Tuningという学習手法で、答える前に自分の推論を検証して修正する。
関連コンテンツ
Reflection 70Bに関連するツール、スキル、記事を探す。
Reflection 70Bの代替ツール
Emailwritr
Emailwritr · ライティング · マーケティングEmailwritrは、すでに持っているリストからより多くの収益を引き出したいアフィリエイター、コース制作者、オンラインビジネス向けに作られたAIメールコピーライティングツールだ。空白のページや汎用的なチャットボットのプロンプトの代わりに、このAIメール作成ツールは、著名なダイレクトレスポンスのコピーライターを手本にしたフレームワークから、ウェルカムシーケンス、ローンチキャンペーン、カート放棄メール、プロモシリーズを生成する。自分のオートレスポンダーをつなぎ、オファーについて2、3の質問に答えると、あとは文案を書いてくれる。
Swms
Swms AI · ライティング · 生産性向上 · ビジネスSwmsは、仕事の簡単な説明をそのまま使える安全書類に変えるAI安全コンプライアンスツールだ。プロジェクト、職種、把握している危険を書けば、安全作業方法書、作業ハザード分析、安全作業手順書、RAMS、安全データシートを数秒で作成する。Oscarというチャットアシスタントも付いており、職場の安全に関する質問にどんな言語でも答える。建設、鉱業、運輸、倉庫のチームが、作業日を削る書類仕事を減らすために使っている。
Prosp
Prosp · ライティング · 音声・言語 · マーケティングProspは、代理店や営業チーム向けに作られたAI LinkedInアプローチツールだ。見込み客ごとに自分の声でメッセージとボイスメッセージを書き、相手が本当に返信するように仕向ける。アカウントをつなぎ、リードを見つけ、AIにパーソナライズされたメッセージを大量に下書きさせて送信させる。すべて1つの受信トレイから行える。大量のアウトバウンドを回す人向けにできている。それがこの製品の売り込みのすべてだ。それでも各接点は人間らしく感じられなければならない。