Fortune Cookie

Fortune Cookie는 챗 화면으로 동작하므로, 직원은 동료에게 메시지를 보내듯 사용한다. 그 하나의 창에서 여러 업무 앱을 넘나들며 업무를 처리하고, 데이터를 검색하고, 쿼리를 실행하고, 알림을 받고, 콘텐츠를 생성한다. 설계의 중심에는 보안이 있다. 어시스턴트가 급여, 영업, 인사 기록을 읽는 상황이라면 더욱 중요하다.

모든 고객에게 하나의 모델을 강요하는 대신, 팀이 맞춤 설정한 대규모 언어 모델을 도입하고 필요에 맞는 모델을 고를 수 있다. RandomWalk는 이를 시스템을 효율적이고 비용 효율적으로 유지하는 방법으로 내세운다. 가벼운 모델은 정형 조회를 맡고, 무거운 모델은 복잡한 분석을 담당한다. 선택 단위는 회사가 아니라 업무다.

어시스턴트는 대규모 데이터셋을 분석해 의사 결정을 뒷받침하는 패턴을 드러낸다. 생성형 AI로 데이터 시각화 도구에 연결되므로, 결과는 텍스트에 그치지 않는다. 질문하면 그래프나 대시보드가 돌아온다. 숫자 벽을 해독할 필요가 없다. 여기서는 사일로에 갇힌 데이터가 적이다. 이 도구는 원시 표를 관리자가 실제로 읽을 수 있는 뷰로 바꾼다.

고립된 데이터가 Fortune Cookie가 해결하려는 문제다. 흩어진 소스를 의미 지식 그래프와 벡터 데이터베이스로 바꾸고, 그렇게 서로 다른 시스템에 있는 기록을 연결한다. 이것이 정확한 답을 떠받치는 배관이다. 이것이 없으면 검색은 잡음만 돌려준다.

어시스턴트는 조직 전체의 검색을 개선해, 정보가 어디 있는지 정확히 몰라도 사람이 관련 내용에 닿게 한다. 파일 이름이나 폴더 경로를 추측하는 대신 원하는 것을 말로 설명한다. 폴더 분류를 배울 필요가 없다. 찾는 시간이 줄고 지식은 부서를 넘어 쓸 수 있는 상태로 유지된다.

Fortune Cookie는 RAG 위에 세워졌다. 쉽게 말해, 어시스턴트는 답하기 전에 모델이 학습 중 외운 내용에 기대지 않고 관련 사내 데이터를 가져온다. 벡터 데이터베이스와 지식 그래프를 짝지어 쓴다. 벡터 데이터베이스는 큰 데이터셋에서 빠른 유사도 검색을 처리하며, 이는 의미 검색과 추천에 어울린다. 지식 그래프는 관계와 의존성을 드러내, 보고 체계나 지표가 어떻게 집계되는지 같은 맥락을 모델이 이해하도록 돕는다. 그렇다면 실제로는 어떻게 보일까. 어떤 지표를 물으면 모델은 답하기 전에 그래프를 따라 그것을 추적한다. 우연히 같은 단어를 공유하는 느슨한 키워드 일치를 돌려주지 않는다. 큰 조직에서 중요한 차이가 바로 여기에 있다.

화면은 후속 조치, 요약, 데이터 뷰를 중심으로 설계됐다. 원시 출력을 쏟아내는 대신 직원 경험을 나아지게 하는 것이 목표다. 널리 배포하는 팀에게 익숙한 챗 레이아웃은 교육 부담을 낮춘다. 사람은 질문을 입력하는 법을 이미 안다. 배울 것이 없다.