TxGemma

TxGemma는 2B, 9B, 27B 세 크기로 나오며 모두 Gemma 2에서 파생됐다. 2B 모델은 GPU 한 장에서 빠르게 실험할 수 있다. 큰 크기는 어려운 작업과 대화 용도를 맡는다. 작게 시작해 흐름을 검증하고 나중에 확장해도 도구를 바꿀 필요가 없다.

각 크기에는 정해진 특성 작업용 Predict 버전이 있고, 9B와 27B에는 답을 논의하는 Chat 버전이 더해진다. Predict 모델은 좁은 벤치마크에서 최고 수치를 낸다. Chat 모델은 추가 질문과 근거 확인을 가능하게 한다. 구글은 대화형 버전이 그 유연성을 얻는 대신 원시 정확도를 조금 포기한다고 밝힌다.

TxGemma는 저분자, 단백질, 핵산, 질병, 세포주를 읽는다. 한 가지 데이터에만 특화하지 않는다. 이 폭 덕분에 하나의 모델이 표적 식별에서 약물-표적 상호작용, 임상시험 결과 예측까지 개발의 여러 단계를 건드린다. 각 단계마다 별도 예측기를 세울 필요가 없다.

구글은 Therapeutics Data Commons에서 모은 지시 데이터로 모델을 미세 조정했다. 이 데이터는 신약 개발 벤치마크와 데이터셋의 공개 모음이다. 구글에 따르면 TxGemma의 Predict 모델은 66개 TDC 작업 중 64개에서 최신 범용 모델을 앞서거나 비슷하고, 45개에서 앞선다. 전용 모델에 대해서는 50개 작업에서 앞서거나 비슷하고, 26개에서 앞선다. 이 맞대결 결과는 공개 벤치마크에서 직접 확인할 수 있다.

하위 작업을 위해 TxGemma를 미세 조정하려면 같은 작업을 Gemma 2 기본판으로 미세 조정할 때보다 학습 데이터가 적게 든다. 자체 분석이나 라벨 데이터가 드문 희귀 엔드포인트를 다루는 팀에서는 이 차이가 프로젝트의 가능 여부를 가른다.

가중치를 Hugging Face에서 내려받아 자체 GPU에서 실행할 수 있다. Model Garden을 통해 Vertex AI의 관리형 HTTPS 엔드포인트로 배포할 수도 있다. 로컬 실행은 실험과 민감한 데이터에 맞고, Vertex AI는 대규모 데이터셋용 배치 예측 작업을 포함해 프로덕션 워크로드를 담당한다.

TxGemma는 자체 치료 작업에 맞춰 쓸 수 있는 사전학습 토대로 동작하며, 구글이 시작용 미세 조정 노트북을 제공한다. 모델이 오픈이라 데이터를 어디에 두고 모델을 어떻게 쓸지 스스로 통제한다. 데이터가 기밀일 때 중요한 점이다.