BrowserAI
BrowserAI · 코딩
BrowserAI는 WebGPU로 브라우저 안에서 로컬 LLM과 음성 인식, 음성 합성을 실행하는 오픈소스 JavaScript 라이브러리다. 데이터는 기기에 남고 서버 비용은 0에 가까워진다.
BrowserAI 소개
What Is BrowserAI
BrowserAI는 브라우저를 겨냥해 만든 AI 라이브러리로, 언어 모델을 원격 서버가 아니라 사용자 자신의 기기에 올려 실행한다. npm으로 설치하고 짧은 API를 호출해 모델을 올리고 텍스트를 생성하면, 모든 과정이 브라우저 탭 안에서 끝난다. 프로젝트는 MIT 라이선스로 공개된 오픈소스라서 API 키도, 요청 한도도, 호스팅할 것도 없다.
매력은 연산이 어디서 일어나는지에 있다. 추론이 WebAssembly와 WebGPU를 통해 로컬에서 돌기 때문에 사용자의 프롬프트는 자기 컴퓨터를 벗어나지 않고, 출시한 제품에는 요청당 청구서가 붙지 않는다. 라이브러리는 Llama, Qwen, Gemma, SmolLM2, Phi 계열의 미리 구성된 모델과 음성 담당 Whisper, 발화 담당 Kokoro를 함께 제공하므로 데모를 돌리는 데 학습은 전혀 필요 없다.
한계도 분명하다. 기기 위의 작은 모델은 어려운 추론에서 클라우드의 최상위 모델을 따라가지 못하고, 브라우저에 WebGPU가 필요해 오래된 기기는 제외된다. 모델 파일도 커서 첫 로딩은 무언가 응답하기까지 무거운 다운로드를 기다려야 한다.
Getting Started
- npm install @browserai/browserai로 라이브러리를 설치하거나 yarn에서 추가한다.
- BrowserAI를 가져오고 모델 이름을 넘겨 loadModel을 호출한다. 가중치가 브라우저로 내려오는 진행 상황을 확인한다.
- 프롬프트나 메시지 목록을 넘겨 generateText를 호출한다. 채팅 성격을 정하고 싶다면 system prompt도 넘긴다.
- 음성을 다루려면 Whisper 모델을 올려 오디오를 받아쓰거나 Kokoro로 텍스트를 음성으로 바꾼 뒤, 생성된 버퍼를 재생한다.
- 페이지를 배포하면 파일이 한 번 캐시된 뒤에는 다시 찾아온 사용자가 오프라인에서도 모델을 실행할 수 있다.
제품 정보
BrowserAI의 요금, 지원 플랫폼, 성능을 한눈에 확인해 보세요.
추천 대상
이 도구가 가장 잘 맞는 사용자, 작업, 상황입니다.
사용자
- 프런트엔드 개발자
- 프라이버시를 중시하는 팀
- 취미 개발자와 학생
- 예산이 빠듯한 팀
작업
- 페이지 안에 채팅 만들기
- 음성 입력 추가하기
- 음성 생성하기
- 구조화 데이터 반환하기
- 오디오 분리하기
활용 상황
- 사적인 글쓰기 도우미 내놓기
- 비행기나 오프라인에서 데모하기
- 예산을 정하기 전에 AI 기능 시험하기
- 사내 도구에 AI 심기
주요 기능
기기에서 도는 모델
BrowserAI는 WebGPU와 WebAssembly를 통해 모델을 브라우저로 바로 올리므로 추론이 사용자의 하드웨어에서 일어난다. 라이브러리에는 Llama, Qwen, Gemma, SmolLM2, Phi, DeepSeek 계열의 바로 쓰는 가중치가 들어 있고, 검색용 임베딩 모델도 있다. 이름과 양자화 설정을 넘겨 loadModel을 호출하면 나머지는 라이브러리가 처리한다. 지원되는 기기라면 무거운 작업을 GPU가 맡아 응답이 거의 네이티브 속도로 돌아온다.
음성 인식과 음성 합성
음성은 라이브러리의 핵심이지 덧붙인 기능이 아니다. Whisper 모델이 녹음한 오디오를 받아쓰고, Kokoro가 텍스트를 재생 가능한 오디오 버퍼로 바꾼다. 목소리와 속도도 고를 수 있다. 내장 녹음기가 마이크를 잡으므로 다른 서비스를 끼우지 않고 음성 도우미를 만들 수 있다. 둘 다 로컬에서 돌기 때문에 오디오도 텍스트와 마찬가지로 기기에 남는다.
JSON schema로 만드는 구조화 출력
자유 텍스트를 분석하며 운에 맡기는 대신 JSON schema를 넘겨 JSON 객체를 요청할 수 있다. 모델은 그 schema에 맞는 데이터를 돌려주고, 그대로 앱에 들어간다. 에이전트와 폼에서 중요하다. 잘못된 응답은 흐름을 끊어버리기 때문이다. 결과는 검증하고 저장할 수 있는 깔끔한 객체다.
하나의 API 뒤에 있는 여러 엔진
라이브러리는 하나의 실행 환경에 묶어두지 않는다. MLC, Transformers, Flare, Demucs 엔진을 오가며 각각 다른 작업에 맞다. MLC와 Flare는 WebGPU와 WASM으로 텍스트 생성을 맡고, Transformers는 음성과 발화를 다루며, Demucs는 오디오를 트랙으로 나눈다. API는 엔진 사이에서 그대로라서 백엔드를 바꿔도 코드를 다시 쓰지 않아도 된다.
Web Worker와 스트리밍
모델이 메인 스레드를 차지하면 탭이 멈출 수 있는데, BrowserAI는 추론을 Web Worker에서 돌려 이를 피한다. 모델이 생각하는 동안에도 UI는 반응하고, 출력은 토큰 단위로 흘러나와 사용자가 진행 상황을 본다. Web Worker에 스트리밍을 더하면 무거운 로컬 모델이 평범한 웹 앱처럼 느껴진다.
내장 저장소와 오프라인 사용
BrowserAI에는 IndexedDB와 SQLite를 토대로 한 브라우저 내 데이터베이스가 있어 대화, 임베딩, 캐시한 모델 파일을 보관한다. 이 저장소가 있어 첫 다운로드 뒤에 인터넷이 없어도 페이지가 계속 동작한다. 채팅 앱이라면 동기화할 서버 없이도 기록이 새로고침을 넘어 남는다.
장단점
장점
- 데이터가 기기를 벗어나지 않아, 프롬프트를 클라우드 API로 보낼 수 없는 프라이버시 민감 앱에 맞다.
- 요청당 요금도, 돌릴 서버도 없어서 사용자가 아무리 많이 페이지를 열어도 운영 비용은 거의 0이다.
- 미리 구성된 모델이 함께 와서 동작하는 채팅이나 음성 데모가 학습 파이프라인 대신 몇 줄이면 된다.
- 하나의 API가 텍스트, 음성, 구조화 출력, 오디오 분리를 모두 덮어 네 가지 서비스를 붙일 필요가 없다.
- 파일이 캐시되면 오프라인에서 돌아간다. 키오스크, 현장 도구, 신호가 불안한 곳에 맞다.
단점
- 기기 위의 작은 모델은 어려운 추론에서 클라우드 최상위 모델에 못 미쳐 복잡한 프롬프트에서 품질이 떨어진다.
- WebGPU를 지원하는 브라우저가 필요해 오래된 기기와 일부 모바일이 빠지므로 도달 범위가 좁아진다.
- 모델 가중치가 커서 첫 로딩은 앱이 응답하기까지 느린 다운로드를 기다려야 한다.
- 관리형 서비스도 호스팅된 엔드포인트도 없어서 바로 쓰는 API를 원하는 팀은 클라이언트를 직접 만들어 배포해야 한다.
자주 묻는 질문
BrowserAI는 웹 브라우저 안에서 AI 모델을 실행하는 오픈소스 JavaScript 라이브러리다. 언어, 음성, 오디오 모델을 사용자 기기에 올리고 WebGPU와 WebAssembly로 실행한다. 그래서 서버도 API 키도 필요 없다. 개발자는 npm에서 추가하고 그 API를 호출해 텍스트를 생성하거나 오디오를 받아쓰거나 발화를 만든다.
관련 콘텐츠
BrowserAI와 관련된 도구, 스킬, 아티클을 살펴보세요.
BrowserAI 대안
Udon
Udon · 코딩 · 생산성Udon은 Apple Silicon Mac을 Mac 홈서버로 바꾸는 소프트웨어다. 브라우저에서 컨테이너와 파일 공유를 관리하고, 원하면 AI 시스템 관리자까지 붙일 수 있다.
offstage
offstage cloud · 코딩 · 생산성offstage는 AI 에이전트와 CI 작업에 진짜 Mac을 넘긴다. Apple Silicon 위의 새 macOS 27 계정을 API로 다루고 초 단위로 과금한다.
BotBus
Chengdu Tuyang Tusen Technology Co., Ltd. · 코딩 · 생산성BotBus는 AI 코딩 에이전트 원격 제어 앱이다. 스마트폰과 워치에서 명령을 승인하고, 작업을 시작하고, 결과를 확인한다.