Google EmbeddingGemma 2

텍스트, 소스 코드, 이미지, 영상 프레임, 오디오가 같은 768차원 공간에 들어간다. 쓴 문장으로 오디오 보관함을 검색하거나, 화면에 무엇이 있었는지 설명해 스크린샷을 찾는다. 매체를 넘나드는 비교가 되는 이유는 벡터가 같은 좌표계를 쓰기 때문이지, 여러 모델을 나중에 이어 붙였기 때문이 아니다. 대부분의 멀티모달 임베딩 모델은 형식마다 별도 공간을 두고 그 사이를 번역하는데, 그 경계에서 세부 정보가 빠진다.

전체 모델은 7억 4000만 파라미터이고, 텍스트와 코드 2억 7000만, 비전 1억 7000만, 오디오 3억으로 나뉜다. 텍스트 경로만 배포하면 다운로드와 메모리 부담이 크게 줄어든다. 나중에 비전이나 오디오를 더해도 공간이 그대로라 이미 계산한 텍스트 벡터를 다시 만들 필요가 없다.

Matryoshka 표현 학습은 쓸모 있는 정보를 각 벡터 앞쪽에 몰아넣는다. 768차원을 그대로 써도 되고 512, 256, 128로 잘라도 된다. 기기 저장 공간은 최대 6배 아낀다. 차원을 줄이면 검색 정확도가 떨어지고, 그 손실은 텍스트보다 이미지와 오디오에서 먼저 나타난다. 정하기 전에 자기 질의로 시험해 보는 편이 낫다.

컨텍스트 창은 1세대의 네 배다. 한 번 입력에 약 5.5분 오디오, 이미지 29장, 영상 58프레임이 들어간다. 서로 섞은 조합도 된다. 내레이션이 붙은 발표 자료를 잘게 쪼갠 묶음이 아니라 하나의 항목으로 인코딩한다.

양자화하면 텍스트 전용 가중치는 Pixel 11 Pro에서 약 191MB의 활성 램을 쓴다. 전체 멀티모달 모델은 약 567MB다. 이 차이가 앱을 출시할 수 있느냐, 메모리 때문에 반려되느냐를 가른다. 중급 안드로이드에서 특히 크다.

MTEB Code 점수는 68.76에서 78.68로 올랐다. 이전 버전보다 9.92점 높다. 로컬 코드베이스 인덱싱과 코딩 에이전트의 검색에 맞는다. 질의가 기호 이름이 아니라 의도를 설명하는 상황에서 강하다. Google은 이미지, 영상, 문서, 오디오 작업에서 두 배 이상 큰 전문 모델을 앞선다고도 밝혔다.

공식 및 커뮤니티 통합이 sentence-transformers, transformers, vLLM, SGLang, llama.cpp, Ollama, LM Studio, MLX, transformers.js, WebGPU까지 이어진다. Qdrant는 벡터 저장 방법을 공개했고 Unsloth는 파인튜닝 문서를 냈다. 추론 스택 하나, Google 전용 배포 경로 하나에 묶이지 않는다.

EmbeddingGemma 2는 텍스트 토크나이저와 오디오 인코더를 Gemma 4와 공유한다. 두 모델을 한 파이프라인에서 돌리면 같은 부품을 두 번 싣지 않아 전체 메모리가 줄어든다. 검색과 생성이 같은 노트북이나 스마트폰에서 끝나고 네트워크 호출이 필요 없다.