TxGemma

TxGemmaは2B、9B、27Bの3サイズで、いずれもGemma 2由来だ。2BモデルはGPU1枚で素早く試せる。大きいサイズは難しいタスクと対話用途を担う。小さく始めて流れを確かめ、後から拡張してもツールを乗り換えずに済む。

各サイズに、決まった性質タスク向けのPredict版があり、9Bと27Bには答えを論じるChat版が加わる。Predictモデルは限られたベンチマークで最高の数値を出す。Chatモデルは追加の質問と根拠の確認を可能にする。Googleは、対話版がその柔軟性の代わりに生の精度を少し手放すと説明する。

TxGemmaは低分子、タンパク質、核酸、疾患、細胞株を読む。1種類のデータに特化しない。この広さにより、1つのモデルが標的の特定から薬剤標的相互作用、臨床試験結果の予測まで、開発の複数段階に触れられる。それぞれに別の予測器を用意する必要はない。

GoogleはTherapeutics Data Commonsから集めた指示データでモデルを微調整した。同データは創薬のベンチマークとデータセットの公開コレクションだ。Googleによれば、TxGemmaのPredictモデルは66のTDCタスクのうち64で最先端の汎用モデルを上回るか並び、45で上回る。専用モデルに対しては50のタスクで上回るか並び、26で上回る。この直接対決の結果は公開ベンチマークで自分で確かめられる。

下流タスク向けにTxGemmaを微調整するには、同じ作業をGemma 2のベース版で微調整するより学習データが少なくて済む。自社のアッセイや、ラベル付きデータが乏しい珍しいエンドポイントを扱うチームでは、この差がプロジェクトの実現可否を左右する。

重みをHugging Faceからダウンロードして自分のGPUで動かせる。Model Garden経由でVertex AIの管理されたHTTPSエンドポイントとしてデプロイもできる。ローカル実行は実験や機微なデータに向き、Vertex AIは本番ワークロードを担う。大きなデータセット向けのバッチ予測ジョブも含まれる。

TxGemmaは事前学習済みの土台として、自分の治療タスクに合わせて使える。Googleは着手用の微調整ノートブックも用意している。モデルがオープンなので、データをどこに置き、どう使うかを自分で握れる。データが機密のときに効く点だ。