ALEPH ALPHA - AI for Enterprises and Governments

Kolibri 모델의 전체 파라미터는 78B지만, 전문가 혼합 구조로 토큰당 약 3B만 활성화한다. 큰 모델의 출력 범위를 훨씬 적은 연산으로 얻는다는 뜻이다. Aleph Alpha는 같은 등급에서 효율 경계에 있다고 주장한다. 자기 업무로 직접 확인하는 방법 외에는 검증할 길이 없다.

사전 학습 텍스트의 약 23%가 독일어이고, 토크나이저도 독일어 단어가 더 적은 토큰을 쓰도록 다시 만들었다. 차이는 긴 복합어와 법률 표현에서 드러난다. 번역 기반 모델은 이 지점에서 정확도를 잃거나 토큰 수를 부풀린다. 독일어로 사고하는 것은 학습 목표였고 부산물이 아니다.

Document AI는 파일, 표, 도표, 조잡한 스캔을 해석하고 검색 결과를 접근 권한에 묶어 둔다. 답변은 근거 문단을 인용한다. 자료에 증거가 없으면 모델은 답을 멈추고 그 사실을 알리도록 학습됐다. 챗봇이 없는 계약 조항을 만들어 내는 걸 본 사람이라면, 이 행동이 벤치마크 1점보다 값지다는 걸 안다.

Kolibri 모델에는 제어 가능한 추론 모드가 있다. 인허가 신청의 다단계 분석에는 올리고, 1초면 끝나야 하는 조회에는 내린다. 도구 호출은 기본 지원이라, 사람이 다음에 무엇을 해야 하는지 설명하는 대신 사내 시스템에 작업을 넘긴다.

플랫폼은 소버린 클라우드, 하이브리드, 완전 자체 관리 방식으로 돌아가며 폐쇄망도 포함한다. 신원 관리, 테넌트 분리, 관리 콘솔이 기본 구성이다. 가장 엄격한 형태는 온프레미스 LLM이고, 가중치와 프롬프트, 로그가 자사 네트워크에 남는다. 지원 구성에서는 하드웨어 준비까지 포함해 0에서 앱 가동까지 약 45분이 걸린다고 Aleph Alpha는 설명한다.

에이전트 오케스트레이션은 재사용 가능한 스킬을 조합하고, 실행 환경은 실질적 결과가 따르는 단계에 승인을 강제한다. 모든 동작은 기록되고 사용자까지 추적된다. 여기서 거버넌스는 플랫폼 설정이며, 사용 사례마다 별도 컴플라이언스 문서를 만드는 일이 아니다.