セキュリティコントロールを構成
テストを開始する前に、 Now Assist ガーディアン ガードレールとデータプライバシーコントロールを設定して、AI エージェントのインタラクションを保護します。
ランタイムセキュリティコントロールは、AI エージェントのインタラクション中にユーザーとデータを保護します。テスト実行で意味のある Guardian ログデータが生成され、本番稼働前に問題が検出されるように、テスト前にこれらを設定します。
Now Assist ガーディアン の構成
Now Assist ガーディアン は、大規模言語モデルに送信されるプロンプトとその応答を監視します。これは、フェーズ 3 の ACL とユーザー ID 構成とは独立して動作します。これはアクセスレイヤーではなくランタイムレイヤーです。
次の Guardian 構成手順を完了します。
- Guardian の概要を確認して、検出される内容と、ログ記録とブロックの仕組みを理解してください。「」を参照してください。
- Guardrail サービスプロバイダーを構成します。「」を参照してください。
- 不快感保護を有効にして、AI で生成された応答の不快なコンテンツをログに記録し、オプションでブロックします。「」を参照してください。
- プロンプトインジェクション攻撃保護を構成して、プロンプトインジェクションの試行を検出し、オプションでブロックします。「」を参照してください。
- エージェントが仮想エージェントを使用している場合は、人間のエージェントまたは HR ケースによって処理されるべき主題が検出されたときにユーザーをリダイレクトするように機密トピックフィルターを構成します。「」を参照してください。
- AI エージェント専用の Guardian を有効にして、人間のエージェントメッセージ内の有害なコンテンツからエージェント型ワークフローを保護します。「Enable Now Assist Guardian for AI agents」を参照してください。
注:
ブロックを有効にする前にログに記録するように Guardian を構成します。テスト実行のログを確認すると、コンテンツをブロックするかどうかを決定する前に、エージェントのインタラクションがどのようになっているかを理解するのに役立ちます。
データプライバシーコントロールの構成
エージェントがテストを開始する前に、個人識別可能情報 (PII) が適切に処理されていることを確認してください。まだ完了していない場合は、次の手順を完了します。
- データスチュワードがまだアサインされていない場合は、アサインします。データスチュワードは、インスタンス上での Now Assist に関するデータ共有の意思決定を担当します。「Assign the data steward role」を参照してください。
- プライバシーポリシーを設定して、大規模言語モデルに到達する前に PII を匿名化する方法を制御します。「Now Assist 向けデータプライバシーの設定」を参照してください。
- データ共有設定を確認し、組織のポリシーで必要な場合はオプトアウトします。「Opt out of data sharing for Now Assist」を参照してください。
次のステップ
Guardian が構成され、データプライバシーコントロールが実施されたら、「 テストと検証」に進みます。