Filtre anti-insultes pour Messagerie instantanée d'agent une vue d’ensemble

  • Rversion finale: Xanadu
  • Mis à jour 1 août 2024
  • 4 minutes de lecture

    • Le Filtre anti-insultes for Messagerie instantanée d'agent empêche les agents d’envoyer aux demandeurs des messages contenant des grossièretés (également appelés mots clés interdits). Si un agent est contrarié et tente d’envoyer un message dans un langage offensant, il Filtre anti-insultes empêche le demandeur de voir le message.

    Si un agent tente d’envoyer un message dans un langage grossier, il Filtre anti-insultes bloque le message et marque les mots clés interdits. L’agent Filtre anti-insultes avertit que le message contient des mots clés interdits et alerte le gestionnaire de messagerie instantanée de l’utilisation par l’agent d’un langage grossier.

    Messagerie instantanée d'agent Conversation avec un message en surbrillance contenant un mot clé interdit.
    Lorsque détecte Filtre anti-insultes des mots clés interdits dans un message saisi par l’agent :
    • Le message contenant les mots clés interdits est mis en surbrillance dans la fenêtre de messagerie instantanée de l’agent.
    • L’agent reçoit une notification l’informant qu’il a utilisé un mot clé interdit.
    • Le message contenant le mot clé Interdit n’est pas envoyé au demandeur.
    • Si l’agent a dépassé le nombre de mots clés interdits dans un laps de temps donné, un message est envoyé au gestionnaire de messagerie instantanée.
    • Le mot clé Interdit est marqué dans la transcription de la conversation de messagerie instantanée.

    Notifier le gestionnaire de messagerie instantanée

    Vous pouvez configurer le Filtre anti-insultes pour notifier le gestionnaire de messagerie instantanée si un agent tente d’utiliser plus de mots clés interdits que le nombre spécifié au cours de la période spécifiée. Le Filtre anti-insultes prend en compte toutes les conversations appartenant à l’agent pour déterminer le nombre de mots clés interdits utilisés. Si l’agent tente d’envoyer un message avec un mot clé interdit, le gestionnaire de messagerie instantanée reçoit une notification. Si la fenêtre active est Manager Workspace ou Agent Workspace, une notification en temps réel s’affiche. Si la fenêtre Espace de travail du gestionnaire ou Espace de travail de l’agent n’est pas la fenêtre active, une notification s’affiche dans la vue de résumé dans le menu de notification de l’espace de travail. Dans l’entrée de l’incident, le gestionnaire de messagerie instantanée peut examiner l’incident et le journal de messagerie instantanée et envoyer un message privé à l’agent.

    Basé sur l’apprentissage machine ou basé sur des mots clés

    Le Filtre anti-insultes utilise un modèle basé sur l’apprentissage machine ou un modèle basé sur des mots clés pour déterminer si un message inclut des mots clés interdits. Le modèle basé sur l’apprentissage machine analyse les mots clés et les expressions dans le contexte de l’ensemble du message de l’agent avant de déterminer si des mots clés interdits dans le message doivent être considérés comme vulgaires. Par exemple, l’énoncé « J’ai fait une erreur stupide » ne serait pas considéré comme blasphématoire tandis que « Tu as l’air si stupide » serait considéré comme blasphématoire. Le modèle d’apprentissage machine n’est pas sur chaque instance individuellement : vous ne pouvez pas modifier le modèle directement pour tenir compte des mots clés et des expressions personnalisés.

    Le modèle basé sur des mots-clés compare un message à une liste de mots-clés interdits pour déterminer si quelque chose doit être considéré comme profane. Vous pouvez autoriser certains mots clés ou expressions même si ces mots-clés sont considérés comme profanes au sens générique. Les exemples courants sont les titres de livres ou de films qui peuvent contenir des mots-clés interdits mais qui doivent toujours être autorisés dans une conversation. Inversement, vous pouvez configurer le Filtre anti-insultes pour bloquer certains mots clés ou expressions même si les mots ne semblent pas toujours grossiers. Ils Filtre anti-insultes analysent chaque message par rapport à la liste des mots clés autorisés et interdits avant de l’exécuter en mode basé sur un modèle.

    Tableau 1. Exemple de modèle basé sur l’apprentissage machine
    Mot clé autorisé Mot clé interdit Message à analyser Comportement du système
    Vous êtes un imbécile. Le message est bloqué.
    UNIX pour les nuls Le livre de référence « UNIX pour les nuls » pourrait être utile. Le message est autorisé.
    UNIX pour les nuls stupide « UNIX pour les nuls » est un livre stupide. Le message est bloqué.
    stupide Je me sens tellement stupide de ne pas connaître la réponse à votre question. Le message est bloqué.
    Je me sens tellement stupide de ne pas connaître la réponse à votre question. Le message est autorisé.
    Tableau 2. Exemple de modèle basé sur des mots clés
    Mot clé autorisé Mot clé interdit Message à analyser Comportement du système
    mannequin Vous êtes un imbécile. Le message est bloqué.
    Vous êtes un imbécile. Le message est autorisé.

    Séparation de domaine

    Le Filtre anti-insultes fonctionne avec la séparation de domaine. Si le domaine est défini sur Global, les mots clés s’appliquent à la fois aux domaines de l’agent et du demandeur. Pour que l’agent et le demandeur puissent voir le domaine de l’autre, l’administrateur doit effectuer l’une des actions suivantes :
    • Incluez le domaine dans lequel l’expression régulière doit être visible en tant que domaine enfant pour le domaine parent correspondant.
    • Accordez l’accès nécessaire au domaine approprié s’il s’agit d’un domaine frère.
    • Définissez les mots clés sous un domaine global.