---
sourceDocument: Yokohama 対話型インターフェース
sourceDocumentLink: https://servicenow-prod.fluidtopics.net/r/ja-JP/yokohama/conversational-interfaces

 Release :

    - yokohama

ft:locale :

    - ja-JP

ft:publication_title :

    - Yokohama 対話型インターフェース

ft:clusterId :

    - convint

bundleId :

    - convint

workflow :

    - Platform


---

# エージェントチャット の 不適切表現フィルター の概要

# エージェントチャット の 不適切表現フィルター の概要 {#ariaid-title1}

* リリースバージョン: Yokohama
* 
* 更新日 2025年01月30日
* 
* ![](https://www.servicenow.com/docs/portal-asset/ico-clock) 所要時間：4分

エージェントチャットの不適切表現フィルターは、汚い言葉 (禁止キーワードともいいます) を含むメッセージをエージェントが要求者に送信することを防止します。エージェントが不快な言葉でメッセージを送信しようとしても、不適切表現フィルター によって要求者側にメッセージが表示されません。

エージェントが汚い言葉でメッセージを送信しようとすると、不適切表現フィルター によってメッセージがブロックされ、禁止キーワードがフラグで示されます。不適切表現フィルター は、メッセージに禁止キーワードが含まれていることをエージェントに警告し、エージェントが汚い言葉を使用していることをチャットマネージャーに通知します。  
エージェントが入力したメッセージ内の禁止キーワードを 不適切表現フィルター が検出した場合：

* エージェントのチャットウィンドウで、禁止キーワードを含むメッセージが強調表示されます。
* 禁止キーワードを使用したという通知がエージェントに届きます。
* 禁止キーワードを含むメッセージは要求者に送信されません。
* エージェントが指定された時間内に禁止キーワードの数を超えた場合、チャットマネージャーにメッセージが送信されます。
* チャット会話のトランスクリプト内で、禁止キーワードがマークされます。
{#ci-profanity-filter__ul_bwj_srq_yrb}

## チャットマネージャーに通知する {#ci-profanity-filter__section_q4w_ktq_yrb}

エージェントが所定の時間内に指定回数を超えて禁止キーワードを使用しようとするとチャットマネージャーに通知するように、不適切表現フィルター を設定できます。使用される禁止キーワードの数を 不適切表現フィルター が決定する際には、エージェントが所有するすべての会話を考慮します。エージェントが禁止キーワードを含むメッセージを送信しようとすると、チャットマネージャーに通知が届きます。Manager Workspace またはエージェントワークスペースがアクティブなウィンドウの場合は、リアルタイム通知が表示されます。Manager Workspace またはエージェントワークスペースがアクティブなウィンドウでない場合は、ワークスペース通知メニューのサマリービューに通知が表示されます。インシデントエントリでは、チャットマネージャーはインシデントとチャットログを確認し、エージェントに個人的にメッセージを送信できます。

## 機械学習ベースまたはキーワードベース {#ci-profanity-filter__section_rjk_v5q_yrb}

不適切表現フィルター は、機械学習ベースのモデルまたはキーワードベースのモデルを使用して、メッセージに禁止キーワードが含まれているかどうかを判断します。機械学習ベースのモデルは、エージェントのメッセージ全体のコンテキストでキーワードとフレーズを分析してから、メッセージ内の禁止キーワードを汚い言葉と見なすべきかどうかを判断します。たとえば、「私はばかげたミスをしました」という発言は汚い言葉ではないと見なされますが、「あなたはとてもばかげています」は汚い言葉と見なされます。機械学習モデルは個々のインスタンスにはありません。カスタマイズされたキーワードやフレーズに対応するためにモデルを直接変更することはできません。

キーワードベースのモデルは、メッセージを禁止キーワードのリストと比較して、何かの言葉を汚いと見なすべきかどうかを判断します。特定のキーワードやフレーズが一般的な意味で汚いと見なされる場合でも、その言葉を許可できます。一般的な例としては、禁止キーワードが含まれている可能性があるが、会話では許可されている本や映画のタイトルなどがあります。逆に、場合によっては汚い言葉に見えないものについても、不適切表現フィルター を設定して特定のキーワードやフレーズをブロックすることができます。 不適切表現フィルター は、モデルベースモードで実行する前に、許可されたキーワードと禁止されているキーワードのリストに対して各メッセージを分析します。  
{#ci-profanity-filter__table_t4b_mtq_wsb__entry__4}

| 許可されるキーワード | 禁止キーワード | 分析対象のメッセージ | システムの動作 |
|-|-|-|-|
|   |   | あなたはバカです。 | メッセージはブロックされます。 |
| UNIX for Dummies (バカでもできる UNIX) |   | 参考書「UNIX for Dummies (バカでもできる UNIX)」が役立つかもしれません。 | メッセージは許可されます。 |
| UNIX for Dummies (バカでもできる UNIX) | くだらない | 「UNIX for Dummies (バカでもできる UNIX)」はくだらない本です。 | メッセージはブロックされます。 |
|   | バカみたい | 質問の答えがわからないなんてバカみたいだ。 | メッセージはブロックされます。 |
|   |   | 質問の答えがわからないなんてバカみたいだ。 | メッセージは許可されます。 |
[表 : 1. 機械学習ベースのモデルの例]

{#ci-profanity-filter__table_t4b_mtq_wsb} {#ci-profanity-filter__table_u4h_ztq_wsb__entry__4}

| 許可されるキーワード | 禁止キーワード | 分析対象のメッセージ | システムの動作 |
|-|-|-|-|
|   | ダミー | あなたはバカです。 | メッセージはブロックされます。 |
|   |   | あなたはバカです。 | メッセージは許可されます。 |
[表 : 2. キーワードベースのモデルの例]

{#ci-profanity-filter__table_u4h_ztq_wsb}

## ドメインセパレーション {#ci-profanity-filter__section_fw2_2gb_jsb}

不適切表現フィルター はドメインセパレーションで機能します。ドメインが \[グローバル\] に設定されている場合、キーワードはエージェントと要求者の両方のドメインに適用されます。エージェントと要求者が互いのドメインを表示できるようにするには、アドミニストレーターは次のいずれかを実行する必要があります。

* 対応する親ドメインの子ドメインとして正規表現を表示するドメインを含めます。
* 姉妹ドメインの場合は、適切なドメインへの必要なアクセス権を付与します。
* グローバルドメインでキーワードを設定します。
{#ci-profanity-filter__ul_akq_zgb_jsb}