MindSpore

MindSpore는 같은 코드로 서버, 엣지 장비, 소형 디바이스를 돌린다. 이것이 Huawei가 말하는 '전 시나리오'의 핵심이다. 학습용으로 프레임워크 하나, 디바이스 추론용으로 엔진 하나를 따로 들일 필요가 없다. 제품이 양쪽에 걸친 팀에게 이 연속성은 두 툴체인 사이의 번역 계층을 없애 준다.

디버깅할 때는 동적이고 즉시 실행되는 방식으로 그대로 쓰다가, 속도가 필요하면 같은 코드를 정적 그래프로 전환한다. 입문자는 줄 단위로 따라갈 수 있는 읽기 쉬운 실행을 얻고, 운영 환경은 컴파일된 그래프의 성능을 받는다. 이 전환을 거침없이 해내는 프레임워크는 드물고, 여기서는 덧붙인 기능이 아니라 설계의 핵심이다.

MindSpore는 대형 모델 학습을 위한 병렬 전략을 내장하며, 데이터 병렬, 모델 병렬, 파이프라인 병렬을 아우른다. 작업을 여러 칩에 어떻게 나눌지는 손으로 쓴 조율 코드가 아니라 API 호출로 설정한다. 기반 모델 규모의 학습에 나서는 팀은 오케스트레이션을 스스로 떠안지 않고 확장 경로를 얻는다.

MindIR은 프레임워크 공통의 중간 표현으로, 학습 쪽과 추론 쪽이 같은 형식을 쓴다. 한 번 내보내면 모델은 다시 변환하지 않고 클라우드와 디바이스 사이를 오간다. 이 통일성이 '클라우드에서 엣지까지'라는 이야기를 실무에서 성립시킨다.

MindSpore Lite는 스마트폰과 임베디드 보드용 경량 추론 엔진으로, 하드웨어에 밀착한 커널과 모델을 줄이는 양자화를 갖춘다. iOS, Android, LiteOS를 지원하고, MindSpore 모델뿐 아니라 TensorFlow Lite, Caffe, ONNX 모델도 읽는다. 모바일과 IoT를 만드는 쪽에게 학습한 파일을 동작하는 기능으로 바꾸는 부분이 바로 여기다.

핵심 밖에도 MindSpore는 대형 모델용 스위트와 AI for Science용 스위트를 제공하며, 각각 사전 학습 모델과 완성된 인터페이스를 함께 담는다. 기반 모델이나 과학 연산에 나서는 팀의 사전 준비를 줄여, 처음부터 만드는 대신 쓸 수 있는 부품에서 출발하게 하려는 의도다.