Cohere

Command는 Cohere의 핵심 텍스트 생성 엔진이며, 지금은 범용 한 종이 아니라 여러 전용 모델로 나뉜다. Command A는 주력으로 1,110억 파라미터와 256k 컨텍스트 창을 갖췄고 도구 사용, 에이전트, RAG를 위해 만들어졌다. 주위에 단계별 문제를 다루는 Command A Reasoning, 이미지를 다루는 Command A Vision, 23개 언어 번역을 맡는 Command A Translate, 빠르고 저렴한 작업용 소형 Command R7B가 있다.

North는 Cohere가 날것의 모델에서 작동하는 제품으로 넘어가는 지점이다. 팀은 간단한 지시로 재사용할 수 있는 에이전트와 자동화를 만들고, 라이브러리로 공유 지식을 주고, 메모리로 세션을 넘어 맥락을 유지하게 한다. 비주얼 빌더, 기본 제공 템플릿, 실시간 모니터링이 있어 에이전트는 시연용에서 부서가 매일 쓰는 도구로 바뀐다.

RAG는 Cohere 제품 대부분을 꿰는 실이다. 모델은 답하기 전에 자사 문서에서 관련 구절을 가져와, 지어낸 사실을 줄이고 답변에 인용을 달 수 있다. 기업 현장에서 이 근거는 아무도 믿지 않는 시제품과 매일 쓰는 도구를 가르는 경우가 많다.

Cohere는 모델을 돌리는 방법을 네 가지 제공한다. 호스팅 플랫폼, Bedrock과 Azure 같은 클라우드 AI 서비스, 프라이빗 클라우드 VPC, 그리고 완전한 온프레미스 설치다. 온프레미스 경로에는 기계가 외부 네트워크에 전혀 닿지 않는 망분리 환경도 포함된다. 은행, 병원, 정부 기관에는 이 선택지가 Cohere가 회의를 잡는 이유가 되는 일이 많다.

Command A와 Command A Translate는 모두 23개 언어로 작동한다. 영어, 스페인어, 포르투갈어, 일본어, 한국어, 아랍어, 힌디어 등이 포함된다. 모델은 사용자 언어로 답하거나 요청에 따라 다른 언어로 출력을 바꾸며, 다른 언어로 쓰인 문서에 대해 답하는 식의 교차 언어 작업도 해낸다.

Embed는 텍스트와 이미지를 벡터로 바꿔 검색, 분류, 군집화를 받친다. Rerank는 기존 검색 시스템 앞에 놓여 결과를 관련도 순으로 다시 정렬한다. 둘 다 끼워 넣기만 하면 되는 부품이다. 쓰던 검색 스택은 그대로 두고, 정렬 품질이 가장 약한 곳에 Cohere를 더한다.

North Admin은 대규모 도입에 필요한 조작 장치를 IT 팀에 준다. 관리자는 역할과 권한을 정하고, 어느 그룹이 어느 모델을 쓸지 결정하고, 토큰 지출을 실시간으로 본다. 가드레일은 내용을 걸러내고 응답을 검증하며, 자율성 정책은 에이전트를 허용된 행동 범위 안에 붙잡아 둔다. 배포는 SOC 2 Type 2, ISO 27001, ISO 42001 인증을 갖춘다.

North는 기업이 이미 쓰는 도구에 연결된다. Slack, SharePoint, OneDrive, Microsoft Outlook과 Exchange, Jira, Linear, Notion, GitHub이 포함되고 PitchBook, Crunchbase, S&P Global 같은 금융 데이터 제공자도 예정돼 있다. 커넥터가 있으면 팀이 데이터를 새 사일로로 복사하는 대신 에이전트가 그 시스템 안에서 읽고 움직인다.