ContextGem

ContextGem은 일을 둘로 나눈다. 애스펙트는 종료 조항이나 지급 조건 같은 구역 전체를 찾고, 콘셉트는 그 안의 구체적 데이터, 예컨대 월 요금이나 납기일을 뽑아낸다. 이 2단계 설계가 추출의 초점을 지킨다. 세부를 요구하기 전에 문서의 맞는 위치로 좁히므로, 긴 파일에서 결과가 더 정확해지고 구조화 데이터도 깔끔해진다.

라이브러리에는 7가지 콘셉트 유형이 있다. 문자열, 불리언, 숫자, 날짜, 평점, JSON 객체, 라벨이다. 각각 답의 유형에 대응하므로, 평점 콘셉트는 척도 위의 숫자를 기대하고 라벨 콘셉트는 직접 정한 목록에서 고른다. 유형이 있는 콘셉트를 쓰면 출력이 손으로 파싱할 텍스트 덩어리가 아니라 필요한 모양으로 들어온다.

뽑아낸 값은 모두 출처 텍스트로 가는 실마리를 남긴다. 항목은 기본으로 문단 참조를 달고, reference_depth를 문장으로 바꾸면 더 세밀하게 추적한다. 검토 중 수치가 이상하면 문서 전체를 뒤지는 대신 그것을 뒷받침하는 줄로 곧장 건너뛴다. 정당화 설명도 있어, 모델이 왜 그 항목을 골랐는지 밝힌다.

LLM 추출 파이프라인은 애스펙트와 콘셉트를 재사용 가능하고 직렬화 가능한 설정 하나로 묶는다. 한 번 정의해 저장하고, 같은 구조의 새 문서에 적용한다. 병행 처리와 재시도, 공급자 간 사용량 추적이 기본으로 들어 있어, 파일 더미를 루프 관리 없이 돌릴 수 있다. 직렬화 덕분에 파이프라인은 기기 사이를 옮겨 다니거나 버전이 붙은 산출물로 남는다.

ContextGem은 LiteLLM이 지원하는 모든 모델에 연결한다. OpenAI, Anthropic, Google, Azure, xAI를 아우르고, Ollama와 LM Studio의 로컬 모델도 쓴다. 이 폭 덕분에 단순한 추출에는 빠르고 저렴한 모델을, 까다로운 조항에는 추론 모델을 고를 수 있다. 로컬에서 돌리면 민감한 문서를 내 하드웨어에 두게 되고, 법무와 의료 작업에서 이 점이 중요하다.

모델에 각 추출을 설명하게 할 수 있다. 정당화는 간결·균형·상세 중에 고르고 문장 수 상한도 정한다. 실행 전에 내 문서 유형으로 모델을 맞추도록 예시를 붙일 수도 있다. 두 기능 모두 정확도를 겨냥한다. 예시는 패턴을 가르치고, 정당화는 출력을 맹신 대신 감사하게 해준다.