deepsense.ai

deepsense.ai가 만드는 것은 대화를 이어 가는 챗봇이 아니라 일을 끝내는 에이전트다. 도구 호출, 내부 지식 검색, 가드레일, 위험이 큰 결정에 대한 사람의 검토까지 범위에 넣는다. 모델을 바꿔도 작동한다는 것을 보여 주는 평가 데이터셋도 납품물에 포함된다.

ragbits는 이 회사가 공개한 RAG 파이프라인용 파이썬 라이브러리로, 검색을 바라보는 팀의 방식이 그대로 드러난다. 수집, 임베딩, 재순위, 생성을 모듈로 제공하고 채팅 화면용 UI 계층도 갖춘다. 코드가 공개되어 있어 고객 팀은 계약 전에 내용을 읽어 볼 수 있다.

모델 품질은 테스트 세트 없이 확인하기 어렵다. 이 팀은 텍스트와 이미지 모델용 평가 데이터셋을 만들고, 도메인 전문가와 채점 기준을 정하며, 새 모델이 나올 때 비교를 돌린다. 남는 것은 제품 책임자가 회의에서 근거로 내밀 수 있는 숫자다.

MLOps 서비스는 눈에 띄지 않는 부분을 맡는다. 컨테이너 배포, GPU 스케줄링, 모니터링, 드리프트 탐지, 재학습 트리거다. 공개된 사례에서는 분산 환경을 조정한 뒤 GPU 32장 학습 작업에서 평균 가동률 96.3%를 기록했다. 이런 작업이 모델을 계속 돌릴 만한 비용인지 결정한다.

Claude, ChatGPT Enterprise, Gemini로 표준화하는 팀에는 권한을 통제한 상태로 내부 데이터와 도구를 해당 어시스턴트에 열어 주는 MCP 서버를 맞춤 제작한다. 벤더 어시스턴트가 사설 데이터 웨어하우스나 레거시 시스템에 닿아야 하지만 데이터베이스 직접 연결은 열고 싶지 않을 때 현실적인 길이다.

자문 프로젝트는 보통 4~8주이고, 끝에 남는 것은 슬라이드가 아니라 결정이다. 어느 유스케이스에 예산을 줄지, 어떤 벤더를 고를지, 구축에 얼마가 들지, 내부에서 누가 맡을지다. 계약이 끝난 뒤에도 내부 팀이 계속 만들 수 있도록 워크숍도 진행한다.