PydanticAI

PydanticAI는 모델을 고정된 의존성이 아니라 설정 가능한 문자열로 다룬다. 이것이 모델 독립적 AI SDK 설계다, 그게 전부다. 같은 에이전트가 OpenAI, Anthropic, Google Gemini, Mistral, Groq 또는 로컬로 돌리는 모델 위에서 실행되고, 공급자를 바꿔도 에이전트 로직을 건드리는 일은 거의 없다. 벤더 종속이나 공급자가 가격을 바꿀 때의 비용 급등을 걱정하는 팀이라면, 이 유연성만으로도 전환할 이유가 된다.

에이전트 응답의 형태를 Pydantic 모델로 정의하면, 애플리케이션이 그 안의 데이터를 만지기 전에 프레임워크가 모든 응답을 그것에 비추어 검증한다. 이것이 프레임워크 차원의 구조화 출력 검증이다. 잘못된 출력은 하위 단계의 크래시 대신 재시도나 명확한 오류를 부른다. 더 느슨한 대안 대신 PydanticAI를 고른 이유를 설명할 때 개발자들이 가장 많이 꼽는 기능이다.

에이전트는 데코레이터를 통해 직접 만든 Python 함수를 호출할 수 있다. 매개변수는 타입이 붙고 반환값도 검증된다. 데이터베이스 연결이나 API 클라이언트 같은 의존성은 깔끔하게 주입된다. 전역 상태도 없다. 숨은 배선도 없다. 그래서 도구 코드는 테스트하기 쉽고 이해하기도 쉽다.

에이전트는 토큰, 구조화된 출력, 도구 이벤트를 발생하는 즉시 스트리밍한다. 부분 결과를 보여주는 채팅 화면을 만들 수도 있고, 완전한 답이 준비되기 전에 응답하는 음성 파이프라인을 만들 수도 있다. 어느 쪽이든 이벤트 배선을 직접 짤 필요는 없다. 이미 들어 있다.

모든 실행을 추적하고 기록할 수 있으며, Pydantic Logfire와 연동해 자세한 스팬과 지표를 얻는다. 프로덕션에서 문제가 생겼을 때, 어떤 모델 호출, 도구 호출, 검증 단계가 실패했는지 정확히 볼 수 있다. 모호한 로그에서 원인을 짐작하지 않아도 된다.

Pydantic Evals는 함께 쓰는 패키지로, 데이터셋을 정의해 pytest가 함수에 대해 실행하듯 에이전트에 대해 실행하게 해준다. 점수를 시간에 따라 추적한다. 모델이나 지시가 바뀌는 순간 프롬프트 회귀를 잡아낸다. 자신 있게 내보내는 것과 손가락을 꼬며 내보내는 것의 차이다.