Prompt Inspector

Prompt Inspector

Prompt Inspector · 코딩 · 프롬프트

Prompt Inspector는 프롬프트가 LLM에 도달하기 전에 인젝션 공격, 민감 콘텐츠, 적대적 입력을 검사하는 오픈소스 보안 계층입니다.

Prompt Inspector 미리보기

Prompt Inspector 소개

About

Prompt Inspector란

Prompt Inspector는 LLM 애플리케이션과 AI 에이전트를 위한 보안 방화벽입니다. 신뢰할 수 없는 사용자 입력과 언어 모델 사이에 자리하며, 프롬프트가 AI 시스템에 도달하기 전에 모든 입력을 실시간으로 분석합니다. 이 프로젝트는 AGPL-3.0 라이선스로 오픈소스화되었고, 클라우드 호스팅 옵션과 프라이빗 배포를 위한 엔터프라이즈 에디션이 있습니다.

이 도구는 실무 문제에서 출발했습니다. 생성형 AI가 프로덕션에 들어가면서 프롬프트 인젝션, 탈옥, 적대적 조작이 현실적인 공격 경로가 됩니다. 대중을 상대하는 챗봇, 자율 에이전트, 코딩 보조 도구는 모두 자신이 쓰지 않은 텍스트를 읽습니다. Prompt Inspector는 이런 스택 대부분이 빠뜨린 가드레일을 보완합니다. 프롬프트 인젝션과 악성 콘텐츠를 탐지하고, 테넌트별로 민감 단어를 필터링하며, 당신의 규칙이 판단 근거로 삼을 안전 판정을 돌려줍니다.

프로젝트는 2026년 3월에 시작되었습니다. GitHub에서는 aunicall/prompt-inspector에 있으며, 명확한 구분으로 공개됩니다. 저장소는 비상업적 사용을 위해 열려 있고, 엔터프라이즈 에디션은 유지 관리되는 페이로드 라이브러리, 사용자 정의, 프라이빗 배포, 전담 지원을 더합니다. 탐지 엔진은 단일 모델이 아니라 5계층 퍼널을 사용하며, 이 설계 선택이 속도와 정확도를 함께 규정합니다.

시작하기

  1. promptinspector.io에서 계정을 만들고 Google 또는 GitHub로 로그인합니다.
  2. 대시보드를 열고 App을 만든 뒤 생성된 App API Key를 복사합니다. 한 번만 표시되므로 곧바로 안전한 곳에 저장하세요.
  3. 연동 방식을 고릅니다. Python SDK는 pip install prompt-inspector, Node.js SDK는 npm install prompt-inspector로 설치하거나 REST 엔드포인트를 직접 호출합니다.
  4. 몇 줄의 코드로 첫 검사를 실행합니다. 키로 클라이언트를 만들고 테스트 문자열에 detect를 호출한 뒤 is_safe, score, category를 읽습니다.
  5. REST를 쓴다면 X-App-Key 헤더와 input_text 필드를 붙여 https://promptinspector.io/api/v1/detect/sdk로 POST합니다.
  6. MCP 서버로 에디터나 에이전트에 연결합니다. Cursor, VS Code Copilot, Claude Desktop, Dify에서 동작합니다.

제품 정보

Prompt Inspector의 요금, 지원 플랫폼, 성능을 한눈에 확인해 보세요.

무료 플랜예
유료 플랜Custom/mo
플랫폼Web, REST API, Python, Node.js, MCP
개발사Prompt Inspector
카테고리코딩 · 프롬프트
출시일Mar 2026
최근 업데이트Mar 2026
웹사이트 방문 수N/A
웹사이트 글로벌 순위N/A
API 제공 여부예

추천 대상

이 도구가 가장 잘 맞는 사용자, 작업, 상황입니다.

사용자

  • LLM 기능을 만드는 백엔드·플랫폼 엔지니어
  • AI에 통제를 추가하는 애플리케이션 보안 팀
  • 데이터 상주 규칙이 있는 팀
  • AI 코딩 도구 사용자
  • 자체 호스팅 AI 방화벽을 원하는 팀

작업

  • 프롬프트 인젝션 탐지
  • 민감 콘텐츠 필터링
  • 앱에 안전 판정 반환
  • 자체 서버에서 가드레일 실행
  • 에이전트 워크플로에 AI 안전 검사 추가

활용 상황

  • 공개 챗봇 앞에 필터 두기
  • 에이전트 행동 전에 사용자 텍스트 걸러내기
  • 데이터 처리 요건 충족
  • 콘텐츠 규칙 적용

주요 기능

다계층 탐지 엔진

탐지는 5계층 퍼널로 동작하며, 각 계층은 이전보다 조금 더 정밀하게 걸러냅니다. 전역 해시 캐시는 반복된 입력에 대해 거의 제로에 가까운 지연으로 이전 결과를 돌려줍니다. 민감 단어 계층은 Aho-Corasick 오토마타로 키워드와 정규식 패턴을 매칭하고 일치하면 즉시 중단합니다. 시맨틱 계층은 벡터 임베딩으로 키워드 규칙이 놓치는 바꿔 말한 공격과 난독화된 인젝션을 잡습니다. 선택적 AI 리뷰가 회색 지대 입력을 처리하고, 중재 단계가 각 계층을 신뢰도 점수가 붙은 최종 판정으로 종합합니다.

저지연 실시간 탐지

프로젝트에 따르면 대부분의 요청은 처음 두 계층에서 3밀리초 미만으로 해결됩니다. 전체 시맨틱 분석은 약 30밀리초에 끝납니다. 이 수치를 지탱하는 것이 퍼널 설계입니다. 뻔한 위협은 키워드 계층에서 멈추고, 모호한 입력만 파이프라인을 더 내려갑니다. 이 분리가 흔한 경우에 엔진을 빠르게 유지하면서도 어려운 경우에 실제 연산을 쓸 수 있게 합니다.

테넌트별 민감 단어 필터링

각 테넌트가 자체 단어 목록을 정의하고, 엔진은 두 가지 매칭 전략을 지원합니다. 리터럴 매칭은 Aho-Corasick 오토마타에서 실행되며, 키워드를 아무리 많이 설정해도 전체 입력을 선형 시간에 한 번 훑습니다. 정규식 패턴은 전화번호와 카드 형식 같은 구조화 데이터를 담당합니다. 단어가 일치하면 파이프라인이 즉시 중단되므로, 이 계층은 안전망이자 속도 지름길 역할을 합니다.

AI 보조 회색 지대 리뷰

모호한 중간 지대에 놓인 입력은 언어 모델의 두 번째 의견으로 에스컬레이션됩니다. 지원되는 리뷰어에는 DeepSeek, Qwen, Gemini가 있습니다. 이 계층은 오탐을 줄이기 위해 존재하며 선택 사항으로 남아, 배포가 필요할 때 파이프라인을 완전히 결정론적으로 유지할 수 있습니다. 시맨틱 계층이 명확한 점수를 내면 리뷰는 완전히 건너뜁니다.

자기 반복 위협 라이브러리

AI 리뷰어가 새 공격을 확인하면 엔진은 변형 페이로드를 생성해 스스로 벡터 데이터베이스에 추가합니다. 시간이 지나면 페이로드 라이브러리는 누군가 손으로 유지하는 고정 목록이 아니라 시스템이 실제로 본 위협에서 자랍니다. 엔터프라이즈 에디션은 프로덕션 위협에서 실시간으로 갱신되는 수백만 규모의 유지 관리형 페이로드 라이브러리를 더합니다.

MCP 및 SDK 연동

Prompt Inspector는 REST API, 공식 Python SDK, 공식 Node.js SDK, MCP 서버를 제공합니다. MCP 서버는 Cursor, VS Code Copilot, Claude Desktop, Dify에서 동작하고, Skill 연동은 OpenClaw와 Claude Code를 포함합니다. 모든 클라이언트는 동일한 App API Key로 인증하며, X-App-Key 헤더나 bearer 토큰으로 보내므로 키 하나로 스택 전체를 덮습니다.

오픈소스 코어와 엔터프라이즈 에디션

코어는 AGPL-3.0 라이선스로 오픈소스이며 복제해 자체 인프라에서 실행할 수 있습니다. 엔터프라이즈 에디션은 페이로드 라이브러리 유지 관리, 사용자 정의, 프라이빗 배포, 전담 지원을 그 위에 얹습니다. 이 구분은 개인 개발자에게 무료로 동작하는 가드레일을, 기업에 필요할 때 지원되는 경로를 줍니다.

장단점

장점

  • 퍼널 설계는 뻔한 위협을 처음 두 계층에서 잡고 무거운 시맨틱 작업을 모호한 입력을 위해 아껴 둡니다.
  • AGPL-3.0 자체 호스팅은 프롬프트 데이터를 자체 인프라 안에 유지해 엄격한 데이터 처리 규칙에 맞습니다.
  • App API Key 하나와 MCP 엔드포인트 하나로 API, 두 SDK, 에디터 연동에 모두 닿습니다.
  • 정규식을 지원하는 테넌트별 단어 목록은 고정 키워드 목록 너머의 구조화 데이터를 담습니다.
  • 월별 요청 한도가 있는 무료 계정은 소규모 프로젝트가 약정 없이 엔진을 시험하게 합니다.

단점

  • 공개 홈페이지가 점검 중 서버 오류를 보여, 클라우드 서비스에 의존하기 전에 자체 가용성 확인이 필요합니다.
  • 전체 시맨틱 탐지, 수백만 규모 페이로드 라이브러리, 프라이빗 배포는 엔터프라이즈 에디션 뒤에 있어 무료 경로는 좁은 범위만 보여 줍니다.
  • 가격은 공개되지 않고 영업 창구를 거치므로, 비용 비교에는 먼저 상담이 필요합니다.
  • AGPL-3.0 라이선스가 상업적 사용을 규정하므로, 호스팅 제품은 오픈 저장소가 아니라 엔터프라이즈 에디션을 필요로 할 수 있습니다.

자주 묻는 질문

Prompt Inspector는 LLM 애플리케이션과 AI 에이전트를 프롬프트 인젝션, 민감 콘텐츠 유출, 기타 적대적 입력으로부터 보호하는 오픈소스 보안 계층입니다. 프롬프트가 모델에 도달하기 전에 모든 입력을 실시간으로 분석하고, 당신의 규칙이 판단 근거로 삼을 안전 판정을 돌려줍니다.