프롬프트 삽입 공격은 누군가가 LLM의 초기 지침을 재정의하여 의도하지 않은 동작을 일으키려고 시도하는 사이버 보안 공격의 한 유형입니다. Now Assist 가디언 는 프롬프트 삽입 시도가 모델에 도달하기 전에 탐지하여 구성에 따라 기록하거나 응답을 차단합니다. 공격이 탐지될 때 AI 생성 응답을 로깅하는 것 외에도 차단하도록 프롬프트 삽입 탐지 가드레일을 구성할 수도 있습니다.

검토를 위해 로그를 익스포트할 수 있습니다. 자세한 내용은 Now Assist 보호자 로그 익스포트를 참조하십시오.