AI 에이전트에 대해 활성화 Now Assist 가디언
AI 에이전트를 활성화 Now Assist 가디언 하여 인간 에이전트가 자동으로 보내는 불쾌한 메시지를 식별하고 차단합니다. 이 기능을 사용하면 에이전트 워크플로우 또는 테스트가 유해한 콘텐츠에 노출되는 것을 줄일 수 있습니다.
시작하기 전에
필요한 역할: 관리자
이 태스크 정보
Now Assist 가디언패널의 기능 Now Assist 인 ServiceNow AI Platform 는 애플리케이션과의 상호 작용 중에 발생할 수 있는 불쾌하거나 민감하거나 보안 관련 문제를 가로채고 완화하도록 설계된 가드레일 세트입니다Now Assist.
예를 들어 에이전트 Now Assist 가디언 워크플로우의 실행 계획에서 불쾌한 메시지를 탐지한다고 가정해 보겠습니다. 계획을 트리거하거나 테스트 Now Assist 가디언 하려고 할 때 실행 계획의 첫 번째 단계에서 유해한 콘텐츠를 검색했기 때문에 계획 또는 테스트를 종료하기 위해 한 단계씩 실행할 수 있습니다.
다양한 가드레일에 대한 자세한 내용은 Now Assist 보호자 단원을 참조하십시오.
프로시저
-
AI 에이전트에 대한 불쾌한 콘텐츠 탐지를 구성합니다.
-
AI 에이전트 스튜디오에서 설정 탭으로 이동합니다.
불쾌한 콘텐츠 페이지로 이동합니다.
-
토글 버튼을 사용하여 AI 에이전트에 대한 불쾌한 콘텐츠 탐지 설정을 켭니다.
-
옵션 아이콘(
. )을 선택하여 탐지 영향이 다음 옵션을 사용하도록 설정하여 탐지 영향을 구성합니다.
- 편집: 로깅 또는 차단과 로깅 사이에서 탐지 영향을 선택합니다.탐지 영향 활성화:
- 편집 옵션을 선택합니다.
- 검색 영향 페이지에서 요구 사항에 따라 로그 또는 차단 및 로그 단추를 선택합니다.주:탐지 영향을 로그 에서 차단 및 로깅 으로 또는 차단 및 로그 에서 로그 로 언제든지 전환할 수 있습니다.
- 저장을 선택합니다.
- Export: 불쾌한 콘텐츠 기반 로그를 . CSV 파일. 식별되는 컨텐츠 유형에 대한 로그를 분석할 수 있으므로 대화 질문 변경과 같은 다른 예방 조치를 취할 수 있습니다.
- 편집: 로깅 또는 차단과 로깅 사이에서 탐지 영향을 선택합니다.
-
AI 에이전트 스튜디오에서 설정 탭으로 이동합니다.
-
AI 에이전트에 대한 프롬프트 삽입을 구성합니다.
-
에서 AI 에이전트 스튜디오다음으로 이동합니다. 을 클릭하고 구성을 선택합니다.
프롬프트 삽입을 구성하기 위한 페이지로 Now Assist 관리자 이동됩니다.주:프롬프트 삽입 구성에 대한 자세한 내용은 다음을 참조하십시오 .
필수 지침을 사용하여 에이전트 워크플로우에 대한 프롬프트 삽입을 구성하면 시스템이 유해한 콘텐츠를 탐지하고 대화를 차단하도록 설계되었습니다.
-
에서 AI 에이전트 스튜디오다음으로 이동합니다. 을 클릭하고 구성을 선택합니다.