Private AI

이 기기 내 AI 채팅 앱은 언어 모델을 원격 서버가 아니라 스마트폰 자체의 프로세서에서 실행한다. 이것이 오프라인 사용을 가능하게 하고 모든 프롬프트를 기기에 남긴다. 문제는 스마트폰이 상한선을 정한다는 점이다. 무거운 모델일수록 RAM과 더 강한 칩이 필요하니, 가진 하드웨어에 맞춰 고른다.

앱은 네트워크 없이 작동한다. 비행기 안에서도, 터널에서도, 신호가 나쁜 어디서든 대화할 수 있다. 서버 왕복을 기다릴 필요도 없어 모델을 한 번 불러오면 답변이 빠르게 느껴진다. 클라우드 챗봇이 문장 중간에 멈춘 적이 있는가. 이것이 그 해결책이다.

앱에는 모델이 여러 개 함께 들어 있다. Gemma 2(기본), Llama 3.2, Phi-3.5 mini, Mistral, Orca mini, Rocket 3B 등이다. 전환은 탭 한 번이면 되니, 같은 프롬프트를 각 모델이 어떻게 다루는지 비교할 수 있다. 이 점이 앱을 고정된 획일적 챗봇이 아니라, 손에 쥔 스마트폰에 맞춰 조정하는 Android 로컬 LLM 앱으로 만든다. 자기 기기에서 속도와 답변 품질의 균형을 찾는 좋은 방법이다.

프리미엄 사용자는 원하는 GGUF 모델을 실행할 수 있어, 함께 제공되는 목록 밖의 틈새 모델이나 검열 없는 모델로 문이 열린다. GGUF는 로컬 AI 모델에 흔한 파일 형식이므로 이미 하나 가지고 있다면 그대로 넣으면 된다. 이 기능이 앱을 고정된 챗봇에서 유연한 프라이빗 AI 어시스턴트로 바꾼다.

Google Play 등록 정보에 따르면 모든 연산은 기기에 남고 앱은 데이터를 수집하지 않는다. 만들 계정이 없고, 프롬프트가 보이지 않는 곳에 기록되지도 않는다. AI 대화를 사적인 일로 여기는 사람에게 이것이 사용하는 이유의 전부다. 당신이 시키지 않는 한 이 기기 내 AI 채팅 앱에서 무언가가 스마트폰 밖으로 나가지 않는다.

대화는 로컬에 저장되고 검색이 함께 제공되어, 스크롤하지 않고 예전 답변을 찾아낼 수 있다. 기록이 스마트폰 안에 있으니 늘 당신의 통제 아래에 있다. 며칠에 걸쳐 같은 스레드로 돌아오는 긴 작업에 유용하다.

프리미엄 사용자는 직접 GGUF 파일을 가져올 수 있으므로, 앱은 흔한 안전장치를 건너뛰는 모델로 검열 없는 AI 채팅을 지원한다. 앱은 그 대가를 솔직히 밝힌다. 그런 모델에는 안전망이 없고, 산출물에 대한 책임은 사용자에게 있다. 누군가에게는 기능이고 누군가에게는 경고 표시이며, FireEdge는 판단을 당신에게 맡긴다.

광고가 없어 대화를 방해하는 것도, 광고를 위해 당신을 추적하는 것도 없다. 화면은 대화에 머문다. 사소한 점이지만, 주의를 파는 무료 챗봇과 비교할 때 의미가 있다.