データ共有

デフォルトでは、データ共有はアクティブになっています。AI コントロールタワーの非アクティブ化をオプトアウトし、データを ServiceNow と共有することで、AI の精度を向上させ、ユーザーエクスペリエンスを向上させ、ビジネスニーズをよりよく理解することができます。

データ共有は ServiceNow 製品の強化に役立ちますが、 ServiceNow データ共有プログラムからオプトアウトすることを選択した場合、 ServiceNow AI 製品の改善にデータを提供できなくなります。

データ共有のオプトアウトについては、「 データ共有のオプトアウト」を参照してください。

データオーバーフロー処理

デフォルトでは、すべての Now Assist トラフィックは ServiceNow データセンター内で管理されます。トラフィックの急増が発生した場合、パフォーマンスを維持するために、システムは自動的に Microsoft Azure データセンターにリダイレクトします。この機能をオプトアウトして、すべての Now Assist トラフィックを ServiceNow データセンター内に排他的に保持することができます。デフォルトでは、データオーバーフロー処理は非アクティブです。

セキュリティとプライバシー

データ整合性インシデントの検出

これらの構成設定は、データ整合性インシデント検出チャートを制御します。これは、LLM 応答で特定の LLM ガードレールポリシーに対する潜在的な違反を示すのに役立つように設計されています。このチャートのデータをダッシュボードに表示するには、 構成 を選択し、 アクティブ を選択します。チャートのデータの収集を中止する場合は、[ アクティブ] の選択を解除します。

注:

チャートを無効にすると、過去のデータは 90 日間チャートに表示されます。

次の設定を構成できます。

• カテゴリ:OWASP、LLM および生成 AI アプリの上位 10 件のリスクと緩和、および OpenAI モデル仕様に沿った業界の慣行を反映するカテゴリにグループ化されたセキュリティおよびコンテンツモデレーションポリシー。
• サンプリングレート :評価されるトランザクションの割合。100% 未満のレートを選択すると、AI 呼び出しは少なくなりますが、データの精度が低下する可能性があります。
• 実行あたりの最大スキルコール 数:コールあたりの AI 使用量。最小値は 10 コールです。デフォルトは 1,000 コールです。入力する数値を小さくすると、AI 呼び出しは少なくなりますが、データの精度が低下する可能性があります。
• 単一または複数の分析 :単一の分析では、デフォルトの LLM を使用して、モデルの出力または動作が事前定義されたセキュリティポリシーに違反しているかどうかを判断します。複数分析では、 ServiceNow がサポートする 3 つ以上の LLM の結果を使用して、LLM からの大部分の結果を使用して判断を行います。複数の分析には奇数の LLM が必要です。

エージェント目標逸脱

これらの構成設定は、AI エージェントが意図したロールまたは目的から逸脱している可能性があるタイミングを示すエージェント目標逸脱チャートを制御します。たとえば、不正なアクションやプロンプトインジェクションの試行などです。このチャートのデータをダッシュボードに表示するには、 構成 を選択し、 アクティブ を選択します。チャートのデータの収集を中止する場合は、[ アクティブ] の選択を解除します。

注:

チャートを無効にすると、過去のデータは 90 日間チャートに表示されます。データモデルの確率的な性質により、すべての発生が特定されるわけではありません。

次の設定を構成できます。

• サンプリングレート :評価されるトランザクションの割合。100% 未満のレートを選択すると、AI 呼び出しは少なくなりますが、データの精度が低下する可能性があります。
• 実行あたりの最大スキルコール 数:コールあたりの AI 使用量。最小値は 10 コールです。デフォルトは 1,000 コールです。入力する数値を小さくすると、AI 呼び出しは少なくなりますが、データの精度が低下する可能性があります。
• 単一または複数の分析 :単一の分析では、デフォルトの LLM を使用して、AI エージェントまたはスキルの応答が期待される出力と異なるかどうかを判断します。複数分析では、3 つ以上の LLM の結果を使用して決定を行い、LLM からの過半数の結果を使用します。複数の分析には奇数の LLM が必要です。

出力スクリーニング

これらの構成設定は、PII 検出チャートとエージェント型出力インジェクション検出チャートを使用して AI エージェント出力を制御します。これにより、エージェントの LLM 出力に潜在的な PII または潜在的なセキュリティ脆弱性パターンが含まれている場合が表示されます。これらのグラフのデータをダッシュボードに表示するには、[ 構成] を選択し、[ アクティブ] を選択して、収集するデータの設定を選択します。チャートのデータの収集を中止する場合は、[ アクティブ] の選択を解除します。

注:

チャートを無効にすると、収集された過去のデータが 90 日間チャートに表示されます。

次の設定を構成できます。

• 出力セキュリティ脆弱性 :エージェント型出力インジェクション検出チャートにデータを収集して表示します。データは、既知の潜在的な脆弱性パターンと対応する潜在的な攻撃ベクトルについて LLM 出力を分析することによって収集されます。たとえば、HTML タグにクロスサイトスクリプト攻撃 (XSS) 用のスクリプトを関連付けてはなりません。そうしないと、スタックされた SQL クエリが SQL インジェクション攻撃になる可能性があります。
• 出力拡張 PII :発生する可能性のある PII データをさらに収集し、PII 検出チャートを含む AI エージェント出力に表示します。データは、 データプライバシーで指定されたものを超えた追加の潜在的な PII データパターンがないか LLM 出力を分析することによって収集されます。これらの PII データパターンには、米国カリフォルニア州の運転免許証、米国のパスポート番号、車両の ID 番号が含まれます。
• PII 違反を出力 :データを収集して、PII 検出チャートを含む AI エージェント出力に表示します。データは、 データプライバシーで指定された潜在的な PII 機密データパターンの LLM 出力を分析することによって収集されます。たとえば、米国の電話番号やクレジットカード番号などです。

機密データの入力と匿名化

このセクションでは、LLM プロンプトの情報を検出して匿名化するために データプライバシー で有効になっているデータパターンを示します。検出された機密データおよび機密データの匿名化チャートのトラブルシューティングを行う際は、このビューをクイックリファレンスとして使用します。この機能を使用するには、データプライバシープラグインをインストールする必要があります。データの送信方法と保存方法の詳細については、「 Now Assist のユーザーデータ使用ポリシー」を参照してください。

スコアの重み付け

この設定は、スコアを構成する LLM ガードレールカテゴリの重み付け方法を制御します。デフォルトの重み付けを変更したり、カテゴリを非アクティブ化してスコアから削除したりすることができます。スコア式は、すべての管理対象 AI 資産の平均です。