Datapizza AI Framework

주요 부분마다 명확한 인터페이스를 드러내고, 걸 수 있는 라이프사이클 훅을 제공한다. 동기, 비동기, 스트리밍이 기본 지원되므로 나중에 덧붙이지 않는다. 놀랄 일이 없다. 모델 호출이 언제 발화하는지 정확히 통제해야 하는 팀에게, 그 투명성은 타이밍을 감추는 한 줄짜리 편의 메서드보다 중요하다.

검색 쪽은 체인 전체를 다룬다. 문서 파싱, 분할, 효율적 배치를 통한 임베딩, Qdrant 같은 벡터 데이터베이스 저장까지. 모두 부분별로 설정하거나 교체할 수 있다. 생성 전에 관련성을 높이는 Cohere 같은 리랭커도 더할 수 있다. 검색한 조각에 제목, URL, 메타데이터를 붙여 강화하는 청크 변환도 있다. 생성기는 더 나은 맥락을 받는다.

모니터링은 OpenTelemetry 위에 세워져서, 아마 이미 쓰고 있을 도구와 함께 작동한다. 세밀한 단계와 하위 단계를 추적해 병목을 짚어내고, 트레이스를 Zipkin이나 OTLP 호환 백엔드로 내보내며, 각 모델 호출에 전달되는 입력, 출력, 메모리 내 맥락을 선택적으로 기록할 수 있다.

모델, 리랭커, 벡터 데이터베이스를 비즈니스 로직을 다시 배선하지 않고 바꾼다. OpenAI, Google Gemini, Anthropic 클라이언트가 같은 인터페이스 뒤에 있다. 그래서 프로바이더 변경은 다시 쓰기가 아니라 설정 변경이다. 이 유연성이 팀이 단일 벤더 SDK 대신 이걸 고르는 주된 이유다.

프레임워크는 재사용 가능한 컴포넌트와 선언적 설정을 주고, 기본값이 맞지 않을 때 쉽게 덮어쓸 수 있게 한다. 고정 템플릿을 받아들이는 대신 부품으로 에이전트와 파이프라인을 조립한다. 장점은 유연성과 디버깅 용이성이다. 대가는 접착 코드를 더 직접 쓴다는 점이고, 그 접착 코드는 첫 데모가 돈 뒤에도 오래 유지보수할 코드다.

Datapizza에 따르면 이 프레임워크는 예약 어시스턴트, 지식 어시스턴트, 컴플라이언스 도구에 걸쳐 50개 이상의 GenAI 솔루션을 운영에서 돌린다. 이 실적은 보장이 아니라 신호지만, 당신이 따라 하는 패턴이 이미 실제 트래픽을 견뎠다는 뜻이다.