Molmo
Allen Institute for AI (Ai2) · 이미지 · 기타
Molmo는 Allen Institute for AI가 만든 오픈소스 비전 언어 모델이다. 이 멀티모달 AI 모델은 이미지와 영상을 읽고, 본 대상을 가리키며, API 비용 없이 로컬에서 실행된다.

Molmo 소개
What Is Molmo
Molmo는 Allen Institute for AI(Ai2)가 개발한 오픈 멀티모달 모델군이다. 단일 이미지, 여러 장의 이미지 묶음, 영상을 다루며, 판단에 활용한 영역을 가리키면서 질문에 답한다. 대부분의 비전 모델은 텍스트만 돌려준다. Molmo는 좌표도 함께 돌려준다.
첫 버전은 2024년 9월에 나왔고 1B에서 72B 파라미터까지 모델이 있었다. Molmo 2는 2025년 12월에 등장해 Qwen 3 기반의 4B와 8B, 그리고 Olmo 위에 세운 완전 오픈 7B를 갖췄다. 가중치와 데이터셋, 학습 코드는 Apache 2.0으로 공개되므로 누구든 모델을 내려받아 자기 하드웨어에서 실행할 수 있다.
대가는 준비 과정에 있다. 노트북에서 Molmo를 돌리려면 채팅 앱이 감춰 주는 모델 파일 관리와 설정 작업을 직접 처리해야 한다. 공개된 데이터셋 일부에는 학술용, 비상업용 조건이 붙어 있어 상업적 배포 전에는 라이선스를 확인해야 한다.
Getting Started
- Hugging Face의 Molmo 또는 Molmo 2 페이지에서 모델을 고른다. 크기는 1B에서 72B 파라미터까지 있으니 GPU 메모리에 맞춰 선택한다.
- 가중치를 내려받는다. 시험만 해보려면 Ai2 Playground를 열면 된다.
- transformers 라이브러리로 모델을 불러온다. 서빙을 빠르게 하려면 vLLM을 쓴다. Molmo 2 저장소에는 두 가지 스크립트가 모두 들어 있다.
- 이미지 한 장, 이미지 묶음, 또는 영상 클립을 질문과 함께 보낸다. 어디, 언제, 몇 개인지 물으면 텍스트와 함께 좌표와 타임스탬프가 돌아온다.
- 더 좁은 작업이 필요하면 자체 데이터로 미세 조정한다. 학습 코드와 절차는 공개돼 있다.
제품 정보
Molmo의 요금, 지원 플랫폼, 성능을 한눈에 확인해 보세요.
추천 대상
이 도구가 가장 잘 맞는 사용자, 작업, 상황입니다.
사용자
- 연구자
- 개발자
- 학생과 교사
- 로봇과 자동화 팀
작업
- 이미지 포인팅과 계수
- 영상 객체 추적
- 밀도 높은 영상 캡션
- 시각 근거 기반 질의응답
- 문서와 차트 판독
- 좁은 작업용 미세 조정
활용 상황
- 긴 경기나 강의 녹화를 되짚어 본다
- 매장 상품 사진을 정리한다
- AI 생성 영상의 결함을 찾는다
- 위성이나 드론 영상을 점검한다
- 멀티모달 모델 수업을 진행한다
- 로봇 비전 파이프라인을 시험 제작한다
주요 기능
이미지와 영상 포인팅
Molmo는 본 것을 설명만 하지 않고 가리킨다. 이 이미지 포인팅 모델에 사진을 주고 어떤 물체가 무엇인지 물으면 답마다 2D 좌표가 붙는다. Molmo 2에서는 이 포인팅이 시간으로 확장된다. 컵이 언제 떨어졌는지, 어느 선수가 득점했는지 물으면 위치와 함께 타임스탬프가 돌아온다.
고정 ID를 쓰는 영상 추적
Molmo 2는 클립 전체에서 객체를 따라가며 각각에 안정적인 ID를 붙인다. 계수에서 이 점이 중요하다. 같은 컵이 화면을 벗어났다 돌아와도 두 번 세어지면 안 되기 때문이다. 모델은 가림과 재등장을 처리하는데, 이전 오픈 모델이 어려워하던 부분이다. Ai2는 자사 영상 추적 평가에서 Gemini 3 Pro를 앞선다고 밝힌다. Ai2 자체 벤치마크이니 차이는 출발점으로 보면 된다.
여러 이미지와 긴 영상 추론
모델은 단일 이미지, 2~5장의 관련 이미지, 몇 분을 넘기는 영상 클립을 받는다. 영상 이해 모델로서 Molmo 2는 SlowFast 방식으로 소재를 처리한다. 키 프레임은 고해상도로, 나머지는 낮춰서 처리한다. 긴 영상 작업의 정확도를 지키면서 요청당 비전 토큰은 줄인다.
열린 가중치와 데이터, 학습 코드
Molmo는 Apache 2.0으로 공개되며 가중치, 학습 코드, Ai2가 공개한 절차가 함께 온다. Molmo 2는 캡션, 질의응답, 포인팅, 추적을 담당하는 새 데이터셋 아홉 개를 더했고 학습 예시는 900만 건을 넘는다. 닫힌 모델이 만든 데이터에 기대는 부분이 없어, 위에 쌓으려는 사람에게 과정은 재현 가능하게 남는다.
API 비용 없이 실행
가중치가 열려 있어 자체 하드웨어에서 Molmo를 돌리면 호출당 요금을 피할 수 있다. Ai2는 작은 모델이 데이터센터 없이 로컬에서 돈다고 밝힌다. 대신 GPU와 설정은 직접 마련해야 하고, 가장 큰 버전은 여전히 적지 않은 메모리를 요구한다.
근거 있는 계수와 이상 탐지
"몇 개"라는 질문에 모델은 숫자만이 아니라 시각 근거를 돌려준다. 계수를 검증할 수 있다는 뜻이다. 어떤 물체를 셌는지 눈으로 확인할 수 있다. 같은 그라운딩은 이상 탐지에도 쓰인다. 드물거나 뜻밖의 사건을 표시하고 그것이 담긴 프레임을 가리킨다.
끝에서 끝까지 미세 조정
Molmo 2-O(7B)는 Olmo 위에 세워져 비전 인코더와 커넥터, 언어 모델이 모두 손안에 있다. 고정된 백본을 미세 조정하는 대신 스택 전체를 다시 학습하려는 팀에 맞는다. Molmo 2 저장소에는 사전 학습, SFT, 장문맥 SFT 스크립트가 들어 있다.
장단점
장점
- 가중치와 데이터셋, 학습 코드가 Apache 2.0으로 열려 있어 전 과정을 살피고 재사용할 수 있다.
- 포인팅과 그라운딩이 텍스트만이 아니라 좌표와 타임스탬프를 돌려준다.
- 작은 모델이 여러 그라운딩 벤치마크에서 이전 72B Molmo와 맞먹거나 앞선다.
- 직접 호스팅하면 호출당 API 요금이 없다.
- 영상 추적과 계수가 Ai2의 오픈 모델 평가에서 상위에 오른다.
단점
- 공식 가격과 공개 API가 아직 없어 호스팅형 선택지를 오늘 계획에 넣을 수 없다.
- 모델을 직접 돌리려면 GPU 하드웨어와 모델 파일을 관리해야 하므로 저사양 노트북의 간편한 사용은 어렵다.
- 학습 데이터셋 일부는 학술 및 비상업 연구로 제한돼 상업적 배포에는 라이선스 확인이 필요하다.
- 영상 그라운딩은 여전히 어렵다. Ai2에 따르면 Molmo를 포함해 계수 정확도 40%에 도달한 시험 모델은 없다.
자주 묻는 질문
물건이 어디 있는지까지 알아야 할 때의 이미지와 영상 이해에 쓴다. 객체를 가리키고 세고, 클립 안에서 추적하며, 사진이나 도표, 녹화본에 대한 질문에 답하는 것이 대표적이다. 이런 능력을 유료 API가 아니라 자체 하드웨어에서 얻으려는 사람에게 맞는다.
관련 콘텐츠
Molmo와 관련된 도구, 스킬, 아티클을 살펴보세요.
Molmo 대안
Google EmbeddingGemma 2
Google DeepMind · 글쓰기 · 이미지 · 코딩Google EmbeddingGemma 2는 7억 4000만 파라미터의 오픈 모델로, 텍스트와 코드, 이미지, 오디오, 영상 프레임을 하나의 768차원 공간에 벡터로 바꿔 스마트폰과 노트북에서 실행한다.
Tractionwave
TractionWave · 이미지 · 마케팅TractionWave는 정적 광고용 AI 어텐션 히트맵 도구다. PNG나 JPG를 올리면 예측된 시선 위치, 순위가 매겨진 핫스팟, 수정안이 나온다. 예산을 집행하기 전에 판단하는 데 쓴다.
Imejis.io
Imejis.io · 이미지 · 마케팅Imejis.io는 에이전트와 마케팅 팀을 위한 AI 디자인 스튜디오다. 평소 쓰는 말로 이미지를 설명하면 문구를 쓰고 레이아웃을 잡은 뒤 모든 크기로 다시 배치하고 완성 파일을 내보낸다.
