NuMind

출력 형태를 JSON 템플릿으로 적으면 모델이 문서에서 값을 채운다. 중첩 객체, 항목 배열, 원문 그대로의 문자열을 지원한다. 항목이 원문 표현과 정확히 같아야 하는 상황에서 이 차이가 크다. 템플릿을 바꾸면 같은 문서에서 다른 구조가 나온다. 재학습은 필요 없다.

NuExtract3는 강화학습으로 답하기 전에 문서를 읽고 생각하는 습관을 익혔다. 이 단계는 끌 수 있다. 셀이 합쳐진 표, 중간에 끊긴 행, 지저분한 스캔에서 글자가 겹치는 구간에는 추론이 도움이 된다. 깨끗한 디지털 문서라면 꺼두는 편이 지연과 토큰 비용을 낮게 유지한다.

같은 가중치가 내용 추출도 맡는다. 페이지 전체가 제목과 목록, 표를 그대로 유지한 정돈된 Markdown으로 나온다. 오래된 PDF를 AI 비서와 검색 시스템이 읽게 만드는 용도로 쓰인다. 스캔본과 디지털 문서 모두에서 똑같이 작동한다.

템플릿은 날짜, 통화, 국가 코드, 불리언 등 20가지 필드 타입을 지원한다. 출력이 느슨한 문자열 뭉치가 아니라 타입을 갖춘 형태로 온다는 뜻이다. 자유롭게 쓴 지시문과 문맥 안의 예시를 붙이면 전용 모델을 만들지 않고도 예외적인 서식을 처리할 수 있다.

API 요금은 입력 100만 토큰에 $1, 출력 100만 토큰에 $5다. 개통 대기가 없다. 대량 계정은 볼륨 할인과 배치 처리를 통해 장당 단가를 낮출 수 있다. 텍스트 한 장은 약 1,000토큰, 115dpi A4 스캔 한 장은 1,500토큰 근처다.

기업은 자사 클라우드나 온프레미스에서 NuExtract를 돌릴 수 있고 미세 조정은 선택 사항이다. 문서를 외부 서비스로 보낼 수 없는 보험사와 병원에 이 부분이 결정적이다. NuMind는 AXA, Crédit Mutuel, Cleareye.ai, BCA Expertise를 고객으로 언급한다.

NuExtract3는 4B 모델이며 Apache 2.0으로 공개됐다. 이전의 NuMarkdown-Thinking-8B 같은 버전도 함께 공개돼 있다. 가중치를 뜯어보고 자사 GPU에서 돌리고 허락 없이 미세 조정할 수 있다. 개체 인식 모델 NuNER의 연구는 EMNLP 2024에서 발표됐다.