Llama MacOS Desktop Controller

Llama MacOS Desktop Controller는 자신의 컴퓨터에서 돌아가는 데스크톱 앱으로, 자연어로 macOS를 조작할 수 있게 해준다. 앱을 열거나 창을 정리하는 식의 요청을 입력하거나 말하면, 로컬 Llama 모델이 그 동작을 수행하는 Python 코드를 작성한다. 프런트엔드는 React로 만들어져 입력을 받고, 백엔드는 Flask로 LlamaStack과 통신하며 코드 생성은 LlamaStack이 맡는다.

이 프로젝트는 Meta가 Llama 모델을 실행하려고 만든 오픈 스택인 LlamaStack의 데모로 GitHub에 공개됐다. 일상적인 지시가 실제 시스템 호출로 얼마나 이어지는지 작은 로컬 모델로 확인하려는 개발자와 취미 삼아 만지는 사람을 겨냥한다. 모든 게 컴퓨터 안에서 돌아가므로 클라우드 왕복도, 계정 생성도 없다.

문제는 이게 완성품이 아니라 데모라는 점이다. macOS에서만 동작하고, 실행 전에 Python, Node.js, Ollama, 그리고 켜져 있는 LlamaStack 컨테이너를 갖춰야 한다. 안전 검사도 얇아서 코드 한 줄이 잘못되면 시스템 전체에 영향을 줄 수 있다.

Getting Started

1. 준비물을 설치한다. npm이 있는 Node.js 16 이상, pip가 있는 Python 3.8 이상, Ollama를 넣고 Llama 3.2 3B Instruct 모델을 내려받는다.
2. Docker로 LlamaStack을 5001 포트에서 띄우고 로컬 Ollama 서버를 가리키게 한다.
3. 백엔드 폴더에서 Python 의존성을 설치하고 server.py를 실행해 Flask API가 5066 포트에서 대기하게 한다.
4. 프로젝트 루트에서 npm install과 npm run dev를 실행해 React 프런트엔드를 5173 포트에 올린다.
5. 브라우저에서 localhost:5173을 열고 상태 표시가 초록으로 바뀌는지 확인한 뒤, 명령을 입력하거나 말해서 생성된 코드가 도는 모습을 본다.