エージェントチャット の 不適切表現フィルター の概要

  • リリースバージョン: Australia
  • 更新日 2026年03月12日
  • 所要時間：4分

    • エージェントチャット の不適切表現フィルターは、エージェントが汚い言葉 (禁止キーワードとも呼ばれます) を含むメッセージを要求者に送信することを防止します。エージェントが不快な言葉でメッセージを送信しようとすると、 不適切表現フィルター によって要求者にはメッセージが表示されなくなります。

    エージェントが汚い言葉でメッセージを送信しようとすると、 不適切表現フィルター はメッセージをブロックし、禁止キーワードにフラグを立てます。不適切表現フィルターは、メッセージに禁止キーワードが含まれていることをエージェントに警告し、エージェントが汚い言葉を使用していることをチャットマネージャーに警告します。

    エージェントチャット 禁止キーワードを含むメッセージがハイライト表示された会話。

    エージェントが入力したメッセージ内の禁止キーワードを 不適切表現フィルター が検出した場合:
    • 禁止キーワードを含むメッセージは、エージェントのチャットウィンドウでハイライト表示されます。
    • 禁止キーワードを使用したという通知がエージェントに届きます。
    • 禁止キーワードを含むメッセージは要求者に送信されません。
    • エージェントが指定された時間内に禁止キーワードの数を超えた場合、チャットマネージャーにメッセージが送信されます。
    • チャット会話のトランスクリプトで禁止キーワードがマークされます。

    チャットマネージャーに通知する

    エージェントが指定された時間内に指定された数を超えて禁止キーワードを使用しようとした場合にチャットマネージャーに通知するように 不適切表現フィルター を構成できます。不適切表現フィルターは、使用される禁止キーワードの数を決定する際に、エージェントが所有するすべての会話を考慮します。エージェントが禁止キーワードを含むメッセージを送信しようとすると、チャットマネージャーに通知が届きます。Manager Workspace またはエージェントワークスペースがアクティブなウィンドウの場合は、リアルタイム通知が表示されます。Manager Workspace またはエージェントワークスペースがアクティブなウィンドウでない場合は、ワークスペース通知メニューのサマリービューに通知が表示されます。インシデントエントリでは、チャットマネージャーはインシデントとチャットログを確認し、エージェントに個人的にメッセージを送信できます。

    機械学習ベースまたはキーワードベース

    不適切表現フィルターでは、機械学習ベースのモデルまたはキーワードベースのモデルを使用して、メッセージに禁止キーワードが含まれているかどうかを判断します。機械学習ベースのモデルは、エージェントのメッセージ全体のコンテキストでキーワードとフレーズを分析してから、メッセージ内の禁止キーワードを汚い言葉と見なすべきかどうかを判断します。たとえば、「私はばかげた間違いを犯しました」という発言は冒涜的ではないと見なされますが、「あなたはとてもばかげています」は冒涜的と見なされます。機械学習モデルは各インスタンスに個別に存在するわけではありません。カスタマイズされたキーワードやフレーズに対応するためにモデルを直接変更することはできません。

    キーワードベースのモデルは、メッセージを禁止キーワードのリストと比較して、何かを汚い言葉と見なすべきかどうかを判断します。特定のキーワードまたはフレーズが一般的な意味で汚いと見なされる場合でも、それらのキーワードまたはフレーズを許可できます。一般的な例としては、禁止キーワードが含まれている可能性があるが会話では許可する必要がある書籍や映画のタイトルなどがあります。逆に、特定のキーワードやフレーズが必ずしも汚い言葉に見えるとは限らない場合でも、特定のキーワードやフレーズをブロックするように 不適切表現フィルター を構成できます。不適切表現フィルター は、モデルベースモードで実行する前に、許可キーワードと禁止キーワードのリストに対して各メッセージを分析します。

    表 : 1. 機械学習ベースのモデルの例
    許可されるキーワード 禁止キーワード 分析対象のメッセージ システムの動作
    あなたはバカです。 メッセージはブロックされます。
    UNIX for Dummies 参考書「UNIX for Dummies (バカでもできる UNIX)」が役立つかもしれません。 メッセージは許可されます。
    UNIX for Dummies (バカでもできる UNIX) 愚かな 「UNIX for Dummies (バカでもできる UNIX)」は愚かな本です。 メッセージはブロックされます。
    バカ あなたの質問に対する答えがわからないのはとても愚かだと感じます。 メッセージはブロックされます。
    あなたの質問に対する答えがわからないのはとても愚かだと感じます。 メッセージは許可されます。
    表 : 2. キーワードベースのモデルの例
    許可されるキーワード 禁止キーワード 分析対象のメッセージ システムの動作
    ダミー あなたはバカです。 メッセージはブロックされます。
    あなたはバカです。 メッセージは許可されます。

    ドメインセパレーション

    不適切表現フィルターはドメインセパレーションで機能します。ドメインが [グローバル] に設定されている場合、キーワードはエージェントドメインと要求者ドメインの両方に適用されます。エージェントと要求者が互いのドメインを表示できるようにするには、アドミニストレーターは次のいずれかを実行する必要があります。
    • 正規表現を対応する親ドメインの子ドメインとして表示するドメインを含めます。
    • 姉妹ドメインの場合は、適切なドメインへの必要なアクセス権を付与します。
    • グローバルドメインでキーワードを設定します。