Locally AI
Locally AI · 기타
Locally AI는 오픈 AI 모델을 iPhone, iPad, Mac에서 완전히 실행하는 오프라인 AI 어시스턴트다. Mac과 모바일 모두를 위한 로컬 AI 앱이며, 클라우드도 로그인도 데이터 수집도 없다. 그래서 대화는 손에 들고 있는 기기에 남는다. 모델을 한 번 내려받으면 신호가 없는 곳에서도 언제든 말을 걸 수 있다.
Locally AI 소개
Locally AI란
Locally AI는 Apple 하드웨어를 위해 만든 온디바이스 AI 어시스턴트다. 프롬프트를 서버로 보내는 대신, 오픈 언어 모델과 비전 모델을 기기에 바로 불러와 그 자리에서 실행한다. 그 결과 비행기 모드에서도 작동하고 모든 대화를 내 기기에 남기는 채팅 앱이 된다.
이 로컬 우선 방식이 무엇보다 해결하는 문제는 비공개 AI 채팅이다. 아무것도 기기 밖으로 나가지 않으면 유출되거나 팔리거나 법적으로 요구될 것도 없다. 백엔드 없이 작동하므로 구독도 계정도 필요 없다는 뜻이기도 하다.
그 대가는 하드웨어다. Locally AI는 Apple Silicon과 MLX 프레임워크에 의존하므로 최신 iPhone, iPad, Mac을 요구한다. 오래된 기기에서는 모델이 느리게 로드되거나 실행되지 않는다. 각 모델도 직접 내려받아야 한다. 큰 모델은 상당한 저장 공간을 차지한다. 이상적이진 않지만, 지금의 로컬 AI가 그렇다.
시작하기
- iPhone, iPad, Mac의 App Store에서 Locally AI를 설치한다.
- 모델 브라우저를 열고 내 기기에 맞는 모델을 고른다. 확신이 없으면 작은 것부터 시작한다.
- Wi-Fi로 모델을 내려받고, 끝난 뒤에 채팅을 시작한다.
- 입력이나 음성 모드로 대화를 시작하고, 다른 어조를 원하면 시스템 프롬프트를 조정한다.
- 원한다면 Siri, 단축어, 제어 센터에 연결해 한 번의 탭으로 불러낸다.
제품 정보
Locally AI의 요금, 지원 플랫폼, 성능을 한눈에 확인해 보세요.
추천 대상
이 도구가 가장 잘 맞는 사용자, 작업, 상황입니다.
사용자
- 개인정보를 중시하는 사람
- 자주 이동하는 사람
- 학생과 연구자
- Apple 애호가
작업
- 글 초안 작성과 다듬기
- 오프라인 질문
- 음성 대화
- 이미지 질문
활용 상황
- 민감한 자료를 다룰 때
- 여행과 통근
- 연결이 불안정한 집
- Siri식 빠른 검색
주요 기능
완전한 오프라인 작동
Locally AI의 핵심은 네트워크 없이 돌아간다는 점이다. 모델이 기기에 들어오면 모든 프롬프트와 응답이 로컬에서 처리된다. 서버는 관여하지 않는다. 클라우드 어시스턴트가 실패하는 곳에서도 믿을 만한 앱이 되고, 서버 왕복에 따르던 늘 그렇던 지연도 사라진다.
온디바이스 모델 라이브러리
앱은 다양한 오픈 모델을 지원하며, Llama, Gemma, SmolLM, DeepSeek, Qwen, Granite, Cogito, LFM 같은 계열을 아우른다. 무엇을 설치할지는 내가 고른다. 작은 모델은 빠르다. 큰 모델은 더 똑똑하지만 무겁다. 고정된 한 모델이 아니라 진짜 취향껏 고르는 방식이다.
로컬 음성 모드
음성 모드도 전부 기기에서 돌아가므로, 오디오를 휴대폰이나 Mac 밖으로 내보내지 않고 말로 대화할 수 있다. 실시간으로 반응하고, 클라우드 음성 어시스턴트의 업로드와 다운로드 지연도 없다.
비전 모델 지원
Locally AI는 텍스트와 함께 이미지 작업도 처리한다. 비전을 갖춘 모델이면 사진이나 스크린샷에 대해 바로 질문할 수 있고, 분석은 다른 모든 기능처럼 기기에서 이루어진다.
Siri와 단축어 연동
Siri를 통해 "Hey, Locally AI"라고 말해 어시스턴트를 부를 수 있고, 단축어 앱에 연결해 자동화 흐름을 짤 수도 있다. 제어 센터, 잠금 화면, 동작 버튼으로도 앱 아이콘을 찾지 않고 한 번의 탭으로 불러낼 수 있다.
사용자 지정 시스템 프롬프트
조정 가능한 시스템 프롬프트로 어시스턴트의 행동을 정할 수 있다. 짧은 답을 원하는가? 그렇게 말하면 된다. 더 따뜻한 어조나 특정 역할을 원하는가? 마찬가지다. 같은 모델도 작업에 따라 다르게 느껴진다.
Apple Silicon과 MLX 성능
앱은 Apple Silicon과 Apple의 머신러닝 프레임워크인 MLX를 중심으로 만들어졌다. 이 조합은 최신 칩의 통합 메모리를 활용하므로 모델이 빠르게 로드되고, 응답은 휴대용 기기에서 대규모 언어 모델을 로컬로 돌릴 때 보통 기대하는 것보다 훨씬 적은 전력으로 돌아온다.
장단점
장점
- 완전한 프라이버시: 프롬프트, 응답, 음성이 기기 밖으로 나가지 않는다.
- 계정도 구독도 없어 가입하거나 해지할 것이 없다.
- 모델을 내려받으면 비행기 모드에서도 오프라인으로 작동한다.
- Siri, 단축어, 제어 센터와 연결돼 빠르게 불러낼 수 있다.
- 비전 지원 모델을 포함해 폭넓은 오픈 모델을 지원한다.
단점
- 최신 Apple Silicon이 필요해 오래된 iPhone, iPad, Mac은 느리거나 아예 돌지 않는다.
- 모델을 직접 내려받아야 하고, 큰 모델은 저장 공간을 많이 잡아먹는다.
- Android, Windows, 웹 버전이 없어 Apple 사용자가 아닌 사람은 배제된다.
- 어려운 추론 작업에서 로컬 모델은 대체로 가장 큰 클라우드 모델에 뒤진다.
자주 묻는 질문
iPhone, iPad, Mac용 AI 어시스턴트 앱으로, 오픈 언어 모델과 비전 모델을 기기에서 직접 실행한다. 그럼 무엇이 달라지는가. 클라우드 서버로 아무것도 보내지 않으므로 오프라인으로 작동하고 대화를 비공개로 유지한다.
관련 콘텐츠
Locally AI와 관련된 도구, 스킬, 아티클을 살펴보세요.
Locally AI 대안
BinkBink
BinkBink · 기타BinkBink는 무료 온라인 게임 플랫폼이자 AI 게임 메이커로, 누구나 짧은 텍스트 설명을 플레이 가능한 브라우저 게임으로 바꿀 수 있다. 커뮤니티가 만든 수백 개의 게임에 바로 뛰어들 수 있다. 아니면 자기 아이디어를 설명하고 몇 초 만에 플레이한 뒤 친구와 공유하면 된다. 내 게임을 만들고 싶은가? 코딩은 필요 없다. 엔진 설정도, 다운로드도, 번거로움도 없다.
Audiogen
Audiogen Inc. · 기타Audiogen은 Audiogen Inc.가 만든 AI 음악 생성기다. 작은 연구팀이 약 2년 반 동안 자체 생성형 음악 모델을 학습시키고 그 주위에 웹 인터페이스를 설계했다. 이 AI 음악 도구는 단순한 텍스트 상자 대신 타임라인을 초보자 친화적인 생성형 오디오 워크스테이션(Generative Audio Workstation, 줄여서 GAW)으로 바꾼다. 그 안에서는 인페인팅, 확장, 리믹스, 스템 편집이 캔버스에 그림을 그리듯 작동한다. 제품은 아직 베타라 접근은 대기 명단이나 초대를 거친다. 유료 요금제는 아직 공개되지 않았다.
Aiml API
AIMLAPI OÜ · 기타Aiml API는 OpenAI, Google, Anthropic 등 1000개 이상의 모델을 하나의 엔드포인트와 하나의 청구서 뒤에 모은 통합 AI 모델 API다. 단일 OpenAI 호환 스키마에 맞춰 코드를 작성한 뒤 모델 문자열 하나만 바꾸면 채팅, 이미지, 비디오, 오디오 모델 사이를 전환할 수 있다. 열두 개가 넘는 공급자 계정을 저글링하고 싶지 않은 개발자와 소규모 팀에 맞고, 여러 벤더를 시험할 때 따르는 청구 골칫거리도 없앤다. 키 하나면 모두 해결된다.