AI Secured

페이로드를 한 발 쏘기 전에 Mindgard는 시스템을 파악한다. 어느 모델이 답하는지, 에이전트가 어떤 도구와 API에 닿는지, 가드레일이 이상한 입력에 어떻게 반응하는지 확인한다. 이 윤곽이 공격 방향을 정한다. 스캐너가 목록을 훑는 방식보다 사람이 표적을 좁히는 방식에 가깝고, 더 적은 요청으로 영향이 큰 경로에 닿는 편이다.

라이브러리는 탈옥, 프롬프트 인젝션, 데이터 추출, 가드레일 우회를 다룬다. 다만 한 번의 프롬프트로 끝내지 않는다. 단계를 잇고 시스템이 돌려주는 응답에 따라 다음 수를 바꾼다. 실제 공격자가 무해한 질문에서 결과가 따르는 행동으로 넘어가는 방식이다. 공격은 실행되는 동안 MITRE ATLAS 항목에 매핑된다. 범위는 LLM 보안 테스트에서 시작해 비전, 오디오, 멀티모달 모델로 넓어진다.

발견 항목마다 사용한 프롬프트, 받은 응답, 둘을 잇는 경로가 들어 있다. 엔지니어는 같은 순서를 다시 실행할 수 있고, 관리자는 리스크 점수를 해독하지 않고 영향 설명을 읽을 수 있다. 쓸 만한 보고서와 경고 더미를 가르는 지점이 여기다.

각 발견에는 권장 통제가 붙는다. 입력 전처리에서 출력 필터링, 도구 권한 축소까지 포함한다. 수정을 적용하고 같은 공격 경로를 다시 돌리면 깨끗하게 통과하거나, 아직 뚫리는 새 변형이 나온다. 이 반복이 핵심이다. 일회성 보고서가 아니라 반복 시험을 위해 만들어진 플랫폼이다.

GitHub Action은 워크플로가 돌 때마다 최신 CLI를 받아 온다. 새 공격 기법이 설정 파일 수정 없이 들어온다. Python SDK는 네트워크 엔드포인트를 열 수 없는 모델을 다루고, Burp Suite 확장은 침투 테스터가 이미 쓰는 흐름 안에 AI 시험을 넣는다. REST 접근은 자체 파이프라인을 덮는다.

결과는 OWASP LLM Top 10, MITRE ATLAS, NIST AI RMF, EU AI Act 의무에 매핑되고 보고서는 SIEM이나 티켓 시스템으로 보낼 수 있다. 규제 기관이나 고객에게 무엇을 시험했는지 보여야 하는 팀에게 이 매핑은 변환 단계 하나를 줄인다. 그 격차가 사업에 중대한지는 판단하지 않는다.

시험은 틈을 찾고, 런타임 보호는 그 틈을 쓰려는 시도를 지켜본다. Mindgard는 운영 환경 AI 트래픽에 대한 탐지와 대응도 제공한다. 결함의 존재를 입증한 같은 플랫폼이 나중에 악용 시도에 표시를 남길 수 있다. 출시 전 시험만 원하는 팀은 이 계층을 건너뛰어도 된다.