The 2025 state of AI Development

조사는 팀이 AI를 어디까지 밀어붙였는지로 분류한다. 사용자와 요구를 논의하는 단계에서 전략과 개념 검증, 베타를 거쳐 마지막으로 프로덕션 배포까지다. 약 4분의 1의 기업이 프로덕션에 무언가를 올렸고 나머지는 앞 단계에 흩어져 있었다. 이 내역이 중요한 이유는 이 분야가 단일한 물결이 아니라 넓은 분포라는 점을 보여주기 때문이다. 뒤처졌다고 느끼는 팀도 실제로는 다수와 같은 단계에 있는 경우가 많다.

문서 파싱과 분석이 가장 흔한 활용 사례로 꼽혔고, 고객 서비스와 챗 어시스턴트가 뒤를 이었으며, 그다음이 자연어 분석이었다. 콘텐츠 생성, 추천 시스템, 코드 생성, 연구 자동화가 목록을 채웠다. 이 흐름은 새 텍스트를 만드는 일뿐 아니라 기존 텍스트를 읽고 정리하는 작업을 가리킨다. 수요가 어디에 있는지 읽는 데 유용한 단서다.

OpenAI가 사용 비중에서 가장 컸고 중심은 GPT-4o와 GPT-4o Mini였다. Microsoft Azure, Anthropic, AWS Bedrock이 바로 뒤를 따랐다. 규모가 큰 기업은 클라우드 플랫폼에 더 기댔고, Azure의 비중은 기업 규모와 함께 올라갔다. Groq, Fireworks AI, Together AI 같은 곳이 제공하는 호스팅 오픈 모델도 성장했다. 보고서는 이를 팀이 선택지를 하나로 좁히지 않고 조합에 두고 싶어 한다는 신호로 읽는다.

팀이 설명한 아키텍처에서는 검색 증강 생성이 주를 이뤘고, 과반이 벡터 데이터베이스를 썼다. 모델을 파인튜닝한 곳은 3분의 1 정도에 그쳤다. 보고서는 이 낮은 수치를 비용 하락과 모델 품질 향상에 연결한다. 좋은 기반 모델에 검색을 더하면 맞춤 학습 없이도 일을 해내는 경우가 많기 때문이다.

대부분의 개발자는 자기 AI를 평가한다고 답했지만 방법은 수동에 쏠렸다. 테스트와 리뷰가 자동 평가 도구를 크게 앞섰다. 모니터링도 비슷하게 갈렸고, 자체 대시보드가 외부 도구를 앞질렀다. 환각과 프롬프트 문제 대응이 최대 과제로 꼽혔는데, 자동 점검이 아직 얇다는 점과 맞물린다.

보고서는 앞을 보는 시선으로 마무리하며 2025년이 도구의 해가 되고 에이전트 워크플로가 실험에서 이미 나온 기능으로 옮겨간다고 예측한다. 아울러 여러 모델을 조합하는 구성의 증가와 이어지는 비용 압박을 다음 개발을 규정할 힘으로 짚는다.