데이터 공유

기본적으로 데이터 공유는 활성 상태입니다. 데이터를 비활성화 AI 컨트롤 타워 하고 공유 ServiceNow 하도록 옵트아웃하여 AI 정확도를 개선하고 사용자 경험을 개선하며 비즈니스 요구 사항을 더 잘 이해할 수 있습니다.

데이터 공유는 제품을 개선 ServiceNow 하는 데 도움이 되지만 데이터 공유 프로그램을 옵 ServiceNow 트아웃하기로 선택하면 더 이상 AI 제품 개선 ServiceNow 을 위해 데이터를 제공할 수 없습니다.

데이터 공유 옵트아웃에 대한 자세한 내용은 데이터 공유 옵트아웃을 참조하세요.

데이터 오버플로우 처리

기본적으로 모든 Now Assist 트래픽은 데이터센터 내에서 ServiceNow 관리됩니다. 트래픽이 급증하면 시스템이 자동으로 데이터센터로 Microsoft Azure 리디렉션하여 성능을 유지합니다. 이 기능을 옵트아웃하여 모든 Now Assist 트래픽을 데이터센터 내 ServiceNow 에서만 유지할 수 있습니다. 기본적으로 데이터 오버플로우 처리는 비활성 상태입니다.

보안 및 개인정보 보호

데이터 무결성 인시던트 탐지

이러한 구성 설정은 LLM 응답에서 특정 LLM 가드레일 정책의 잠재적 위반을 표시하는 데 도움이 되도록 설계된 데이터 무결성 인시던트 탐지 차트를 제어합니다. 대시보드에 이 차트에 대한 데이터를 표시하려면 구성을 선택한 다음 활성을 선택합니다. 차트에 대한 데이터 수집을 중단하려면 활성의 선택을 취소합니다.

주:

차트를 비활성화하면 과거 데이터가 90일 동안 차트에 표시됩니다.

다음 설정을 구성할 수 있습니다.

• 범주 - OWASP, LLM 및 생성형 AI 앱에 대한 10대 위험 및 완화 , OpenAI 모델 사양에 부합하는 업계 관행을 반영하는 범주로 그룹화된 보안 및 콘텐츠 조정 정책입니다.
• 샘플링 비율 – 평가되는 트랜잭션의 백분율입니다. 100% 미만의 요율을 선택하면 AI 호출이 줄어들지만 데이터의 정확도는 떨어질 수 있습니다.
• 실행당 최대 기술 호출 수 - 호출당 AI 사용량입니다. 최소 호출은 10개입니다. 기본값은 1,000개의 호출입니다. 더 낮은 숫자를 입력하면 AI 호출이 줄어들지만 데이터의 정확도가 떨어질 수 있습니다.
• 단일 또는 다중 분석 - 단일 분석은 기본 LLM을 사용하여 모델의 출력 또는 동작이 사전 정의된 보안 정책을 위반하는지 여부를 확인합니다. 다중 분석은 LLM의 대다수 결과를 사용하여 결정을 지원하는 3개 이상의 LLM ServiceNow 의 결과를 사용합니다. 다중 분석에는 홀수 수의 LLM이 필요합니다.

에이전트 목표 편차

이러한 구성 설정은 AI 에이전트가 의도한 역할 또는 목표에서 벗어날 수 있는 시기를 보여주는 에이전트 목표 편차 차트를 제어합니다. 예를 들어 무단 작업 또는 프롬프트 삽입 시도가 있습니다. 대시보드에 이 차트에 대한 데이터를 표시하려면 구성을 선택한 다음 활성을 선택합니다. 차트에 대한 데이터 수집을 중단하려면 활성의 선택을 취소합니다.

주:

차트를 비활성화하면 과거 데이터가 90일 동안 차트에 표시됩니다. 데이터 모델의 확률적 특성으로 인해 모든 항목을 식별할 수는 없습니다.

다음 설정을 구성할 수 있습니다.

• 샘플링 비율 – 평가되는 트랜잭션의 백분율입니다. 100% 미만의 요율을 선택하면 AI 호출이 줄어들지만 데이터의 정확도는 떨어질 수 있습니다.
• 실행당 최대 기술 호출 수 - 호출당 AI 사용량입니다. 최소 호출은 10개입니다. 기본값은 1,000개의 호출입니다. 더 낮은 숫자를 입력하면 AI 호출이 줄어들지만 데이터의 정확도가 떨어질 수 있습니다.
• 단일 또는 다중 분석 - 단일 분석은 기본 LLM을 사용하여 AI 에이전트 또는 기술의 응답이 예상 출력과 다른지 여부를 결정합니다. 다중 분석에서는 3개 이상의 LLM의 결과를 사용하여 LLM의 대다수 결과를 사용하여 결정을 내립니다. 다중 분석에는 홀수 수의 LLM이 필요합니다.

출력 스크리닝

이러한 구성 설정은 PII 탐지됨 및 에이전트 출력 삽입 탐지 차트를 사용하여 AI 에이전트 출력을 제어하며, 에이전트의 LLM 출력에 잠재적 PII 또는 잠재적인 보안 취약 패턴이 포함된 경우를 보여줍니다. 대시보드에 이러한 차트에 대한 데이터를 표시하려면 구성을 선택하고 활성을 선택한 다음 수집할 데이터에 대한 설정을 선택합니다. 차트에 대한 데이터 수집을 중단하려면 활성의 선택을 취소합니다.

주:

차트를 비활성화하면 수집된 과거 데이터가 90일 동안 차트에 표시됩니다.

다음 설정을 구성할 수 있습니다.

• 출력 보안 취약성 – 에이전트 출력 삽입 탐지 차트에 데이터를 수집하고 표시합니다. 데이터는 알려진 잠재적 취약 패턴과 잠재적인 해당 공격 벡터에 대한 LLM 출력을 분석하여 수집됩니다. 예를 들어 HTML 태그에는 XSS(교차 사이트 스크립트 공격)에 연결된 스크립트가 없어야 하며, 스택된 SQL 쿼리로 인해 SQL 주입 공격이 발생할 수 있습니다.
• 출력 확장된 PII – 더 많은 잠재적 PII 데이터 발생을 수집하고 PII 탐지 차트와 함께 AI 에이전트 출력에 표시합니다. 데이터는 LLM 출력을 분석하여 에 지정된 데이터 개인정보 보호것 이상의 추가 잠재적 PII 데이터 패턴에 대해 수집됩니다. 이러한 PII 데이터 패턴에는 미국 캘리포니아 운전면허증, 미국 여권 번호 및 차량 ID 번호가 포함됩니다.
• 출력 PII 위반 – PII 탐지 차트를 사용하여 AI 에이전트 출력에 데이터를 수집하고 표시합니다. 데이터는 LLM 출력을 분석하여 지정된 잠재적 PII에 민감한 데이터 패턴 데이터 개인정보 보호에 대해 수집됩니다. 예를 들어 미국 전화번호 또는 신용 카드 번호입니다.

민간한 데이터 입력 및 익명화

이 섹션에서는 LLM 프롬프트에서 정보를 탐지하고 익명화하는 데 데이터 개인정보 보호 사용할 수 있는 데이터 패턴을 보여줍니다. 탐지된 민감한 데이터 및 민감한 데이터가 익명화된 차트의 문제를 해결할 때 이 뷰를 빠른 참조로 사용하십시오. 이 기능을 사용하려면 데이터 개인정보 보호 플러그인을 설치해야 합니다. 데이터를 전송하고 저장하는 방법에 대한 자세한 내용은 Now Assist에 대한 사용자 데이터 사용량 정책을 참조하세요.

점수 가중치

이 설정은 점수를 구성하는 LLM 가드레일 범주의 가중치를 제어합니다. 기본 가중치를 변경하거나 범주를 비활성화하여 점수에서 제거할 수 있습니다. 점수 수식은 모든 관리되는 AI 자산의 평균입니다.