Microsoft Phi-4

Microsoft는 Phi-4를 복잡한 추론을 중심으로 만들었고, 수학을 대표로 내세웠다. 문제를 단계별로 푼다. 이는 학습 도구, 금융 계산, 중간 결과가 틀리면 최종 답에 드러나는 모든 상황에서 중요하다. 독립 벤치마크 표는 수학 과제에서 같은 크기 모델 대부분을 크게 앞선다. 운영에 신뢰를 두기 전에 자기 데이터로 시험한다.

140억 파라미터인 Phi-4는 많은 GPU가 필요한 프런티어 모델에 비해 보통 수준의 하드웨어에서 돌 만큼 작다. 이 크기가 핵심이다. 메모리가 줄고 지연이 낮아지며, 직접 호스팅할 때 청구서도 작아진다. 대가는 훨씬 큰 모델보다 생소한 주제를 덜 안다는 점이다.

가중치는 가장 관대한 오픈 라이선스 중 하나인 MIT 라이선스로 제공된다. 오픈소스 LLM의 제대로 된 지점이다. Phi-4를 상업적으로 쓰고, 고치고, 재배포해도 Microsoft에 라이선스료를 내지 않는다. 그 위에 제품을 만들기 전에 모델 카드에서 정확한 조건을 확인한다. 라이선스에는 조건이 붙을 수 있다.

Hugging Face에서 Phi-4를 내려받아 직접 돌리거나, Azure AI Foundry를 통해 호스팅된 엔드포인트로 접근할 수 있다. NVIDIA의 API Catalog도 또 다른 길이다. 여기서 두 가지가 중요하다. 관리형 엔드포인트에서 빠르게 시작하고, 나중에 통합을 다시 쓰지 않으면서 자체 인프라로 옮길 수 있다.

Microsoft는 Phi 패밀리의 파인튜닝을 Phi Cookbook에 문서화했으므로, 처음부터 시작하지 않고 Phi-4를 특정 도메인이나 문체에 맞출 수 있다. 모델이 작아 파인튜닝 한 번의 비용이 대형 프런티어 모델 조정보다 훨씬 적게 든다. 즉 큰 GPU 예산이 없는 팀도 자기 데이터에 맞춘 모델을 만들 수 있다. 이 덕분에 맞춤 조정이 작은 팀에도 현실적이다.

Phi 패밀리는 AI를 클라우드 호출 뒤가 아니라 기기에 올리기 위해 존재하며, Phi-4는 배포되면 네트워크 왕복 없이 로컬에서 돌기 때문에 그 목표에 맞는다. 이는 프라이버시, 오프라인 사용, 예측 가능한 지연에 도움이 된다. 모두 프롬프트마다 기기를 떠났다 돌아오는 구조에서는 보장하기 어려운 것들이다. 그래도 모델을 메모리에 담을 하드웨어는 필요하니, 먼저 요구 사항을 확인한다.