Filtre anti-insultes pour Messagerie instantanée d'agent une vue d’ensemble

  • Rversion finale: Washingtondc
  • Mis à jour 1 févr. 2024
  • 4 minutes de lecture

    • Le Filtre anti-insultes for Messagerie instantanée d'agent empêche les agents d’envoyer des messages aux demandeurs qui contiennent un langage grossier (également appelé mots clés interdits). Si un agent est contrarié et tente d’envoyer un message dans un langage offensant, le Filtre anti-insultes demandeur ne pourra pas voir le message.

    Si un agent tente d’envoyer un message avec un langage grossier, il Filtre anti-insultes bloque le message et marque les mots clés interdits. Le Filtre anti-insultes système avertit l’agent que le message contient des mots clés interdits et alerte le gestionnaire de la messagerie instantanée sur l’utilisation par l’agent d’un langage grossier.

    Messagerie instantanée d'agent Conversation avec un message en surbrillance contenant un mot clé interdit.
    Lorsqu’ils Filtre anti-insultes détectent des mots clés interdits dans un message saisi par l’agent :
    • Le message contenant les mots clés interdits est mis en surbrillance dans la fenêtre de messagerie instantanée de l’agent.
    • L’agent reçoit une notification indiquant qu’il a utilisé un mot clé interdit.
    • Le message avec le mot clé interdit n’est pas envoyé au demandeur.
    • Si l’agent a dépassé le nombre de mots clés interdits dans un laps de temps spécifié, un message est envoyé au gestionnaire de messagerie instantanée.
    • Le mot clé interdit est marqué dans la transcription de la conversation de messagerie instantanée.

    Notifier le gestionnaire de messagerie instantanée

    Vous pouvez configurer le Filtre anti-insultes pour notifier le gestionnaire de messagerie instantanée si un agent tente d’utiliser plus que le nombre spécifié de mots clés interdits au cours de la période spécifiée. Le prend Filtre anti-insultes en compte toutes les conversations appartenant à l’agent lors de la détermination du nombre de mots clés interdits utilisés. Si l’agent tente d’envoyer un message avec un mot clé interdit, le gestionnaire de messagerie instantanée reçoit une notification. Si la fenêtre active est Manager Workspace ou Agent Workspace, une notification en temps réel s’affiche. Si la fenêtre Manager Workspace ou Agent Workspace n’est pas la fenêtre active, une notification s’affiche dans la vue de résumé du menu de notification de Workspace. Dans l’entrée d’incident, le gestionnaire de la messagerie instantanée peut examiner l’incident et le journal de messagerie instantanée et envoyer un message privé à l’agent.

    Basé sur l’apprentissage machine ou basé sur des mots clés

    Le utilise Filtre anti-insultes un modèle basé sur l’apprentissage machine ou un modèle basé sur des mots clés pour déterminer si un message inclut des mots clés interdits. Le modèle basé sur l’apprentissage machine analyse les mots clés et les expressions dans le contexte de l’ensemble du message de l’agent avant de déterminer si des mots clés interdits dans le message doivent être considérés comme profanes. Par exemple, l’affirmation « J’ai fait une erreur stupide » ne serait pas considérée comme blasphématoire tandis que « Tu as l’air si stupide » serait considérée comme blasphématoire. Le modèle d’apprentissage automatique n’est pas présent sur chaque instance individuellement : vous ne pouvez pas modifier le modèle directement pour tenir compte des mots clés et des expressions personnalisés.

    Le modèle basé sur des mots-clés compare un message à une liste de mots-clés interdits pour déterminer si quelque chose doit être considéré comme blasphématoire. Vous pouvez autoriser certains mots-clés ou expressions même si ces mots-clés sont considérés comme profanes dans un sens générique. Les exemples courants sont les titres de livres ou de films qui peuvent contenir des mots-clés interdits mais qui doivent tout de même être autorisés dans une conversation. Inversement, vous pouvez configurer le Filtre anti-insultes pour bloquer certains mots-clés ou expressions, même si les mots ne semblent pas toujours grossiers. Le système Filtre anti-insultes analyse chaque message par rapport à la liste des mots clés autorisés et interdits avant de l’exécuter en mode basé sur un modèle.

    Tableau 1. Exemple de modèle basé sur l’apprentissage machine
    Mot clé autorisé Mot clé interdit Message à analyser Comportement du système
    Vous êtes un imbécile. Le message est bloqué.
    UNIX pour les nuls Le livre de référence « UNIX pour les nuls » pourrait être utile. Le message est autorisé.
    UNIX pour les nuls Stupide « UNIX pour les nuls » est un livre stupide. Le message est bloqué.
    Stupide Je me sens tellement stupide de ne pas connaître la réponse à votre question. Le message est bloqué.
    Je me sens tellement stupide de ne pas connaître la réponse à votre question. Le message est autorisé.
    Tableau 2. Exemple de modèle basé sur des mots clés
    Mot clé autorisé Mot clé interdit Message à analyser Comportement du système
    Mannequin Vous êtes un imbécile. Le message est bloqué.
    Vous êtes un imbécile. Le message est autorisé.

    Séparation de domaine

    Le Filtre anti-insultes fonctionne avec la séparation de domaine. Si le domaine est défini sur Global, les mots clés s’appliquent aux domaines de l’agent et du demandeur. Pour que l’agent et le demandeur puissent voir le domaine de l’autre, l’administrateur doit effectuer l’une des opérations suivantes :
    • Incluez le domaine dans lequel l’expression régulière doit être visible en tant que domaine enfant pour le domaine parent correspondant.
    • Accordez l’accès nécessaire au domaine approprié s’il s’agit d’un domaine frère.
    • Définissez les mots clés sous un domaine global.