프롬프트 삽입 공격 보호 구성

  • 릴리스 버전: Yokohama
  • 업데이트 날짜 2025년 01월 30일
  • 읽기1분

    • AI 생성 텍스트 및 대화에 대한 프롬프트 삽입 공격 보호를 활성화하거나 비활성화합니다.

    시작하기 전에

    필요한 역할: sn_generative_ai.nsa_admin

    이 태스크 정보

    프롬프트 삽입 공격은 사이버 보안 공격의 한 유형으로, 누군가가 LLM의 초기 지침을 무시하여 의도하지 않은 동작을 유발하려고 합니다. Now Assist 보호자는 이러한 공격 시도를 탐지하고 로깅할 수 있으며, 공격이 시도된 후 AI 생성 응답을 차단할지 여부를 선택할 수 있습니다.

    자세한 내용은 Now Assist 보호자 를 참조하십시오.

    검토를 위해 로그를 익스포트할 수 있습니다. 이 작업을 수행하는 방법에 대한 지침은 Now Assist 보호자 로그 내보내기를 참조하세요.

    프로시저

    1. 다음으로 이동 모두 > Now Assist 관리자 > 설정.
    2. 측면 패널에서 다음으로 이동합니다. Now Assist 보호자 > 프롬프트 삽입.
    3. 프롬프트 삽입 공격 보호의 활성 상태를 변경하려면 토글을 선택합니다.

      프롬프트 삽입 공격 보호는 기본적으로 활성화되어 있으므로 해제하지 않는 한 Now Assist 보호자가 시도를 기록합니다.

    4. 옵션: 탐지 영향(Detection impact)에서 옵션 아이콘(옵션(Options) 아이콘)을 선택한 다음 편집(Edit)을 선택하여 탐지 영향을 변경합니다.

      프롬프트 삽입 공격을 차단할지, 기록할지 선택할 수 있습니다.

      "로그 전용"이 선택된 프롬프트 삽입 보호 탐지 영향 선택 카드

    결과

    인스턴스에서 프롬프트 삽입 공격 보호가 활성화되어 있는지 여부를 구성하고 시도 시 Now Assist 보호자가 수행할 작업을 결정했습니다.