Visão geral do Filtro de linguagem obscena para o Bate-papo do agente

  • Versão de lançamento: Xanadu
  • Atualizado 1 de ago. de 2024
  • 3 min. de leitura

    • O Filtro de linguagem obscena para o Bate-papo do agente impede que os agentes enviem mensagens aos solicitantes que incluam linguagem obscena (também conhecidas como palavras-chave proibidas). Se um agente estiver chateado e tentar enviar uma mensagem com linguagem ofensiva, o Filtro de linguagem obscena impedirá que o solicitante veja a mensagem.

    Se um agente tentar enviar uma mensagem com linguagem obscena, o Filtro de linguagem obscena bloqueará a mensagem e sinalizará as palavras-chave proibidas. O Filtro de linguagem obscena avisa o agente de que a mensagem contém palavras-chave proibidas e alerta o gerente do bate-papo para o uso de linguagem obscena pelo agente.

    Bate-papo do agente conversa com uma mensagem realçada que contém uma palavra-chave proibida.
    Quando o Filtro de linguagem obscena detecta palavras-chave proibidas em uma mensagem inserida pelo agente:
    • a mensagem que contém as palavras-chave proibidas é realçada na janela de bate-papo do agente.
    • o agente recebe uma notificação de que usou uma palavra-chave proibida.
    • a mensagem com a palavra-chave proibida não é enviada ao solicitante.
    • se o agente tiver excedido o número de palavras-chave proibidas em um determinado período de tempo, uma mensagem será enviada ao gerente de bate-papo.
    • a palavra-chave proibida é marcada na transcrição da conversa do bate-papo.

    Como enviar notificações para o gerente de bate-papo

    Você pode configurar o Filtro de linguagem obscena para notificar o gerente de bate-papo se um agente tentar usar mais do que o número especificado de palavras-chave proibidas durante um determinado período de tempo. O Filtro de linguagem obscena considera todas as conversas do agente ao determinar o número de palavras-chave proibidas usadas. Se o agente tentar enviar uma mensagem com uma palavra-chave proibida, o gerente do bate-papo receberá uma notificação. Se o Manager Workspace ou o Espaço do agente for a janela ativa, será exibida uma notificação em tempo real. Se o Manager Workspace ou o Espaço do agente não for a janela ativa, uma notificação será exibida no resumo de notificações do menu do Workspace. Na entrada do incidente, o gerente do bate-papo pode revisar o incidente e o log do bate-papo e enviar uma mensagem privada ao agente.

    Baseado em aprendizado de máquina ou em palavras-chave

    O Filtro de linguagem obscena usa um modelo baseado em aprendizado de máquina ou um modelo baseado em palavras-chave para determinar se uma mensagem inclui palavras-chave proibidas. O modelo baseado em aprendizado de máquina analisa palavras-chave e frases no contexto de todas as mensagens do agente antes de determinar se alguma palavra-chave proibida na mensagem deve ser considerada obscena. Por exemplo, a declaração "Eu cometi um erro bobo" seria considerada não obscena, enquanto "Quanta bobeira" seria considerado obsceno. O modelo de aprendizado de máquina não está em cada instância individualmente. Você não pode mudar o modelo diretamente para considerar palavras-chave e frases personalizadas.

    O modelo baseado em palavras-chave compara uma mensagem com uma lista de palavras-chave proibidas para determinar se algo deve ser considerado obsceno. Você pode permitir determinadas palavras-chave ou frases, mesmo que essas palavras-chave sejam consideradas obscenas em um sentido genérico. Exemplos comuns são títulos de livros ou filmes que podem conter palavras-chave proibidas e, ainda assim, devem ser permitidos em uma conversa. Por outro lado, você pode configurar o Filtro de linguagem obscena para bloquear determinadas palavras-chave ou frases, mesmo que as palavras nem sempre pareçam obscenas. O Filtro de linguagem obscena analisa cada mensagem em relação à lista de palavras-chave permitidas e proibidas antes passá-las pelo modo baseado em modelo.

    Tabela 1. Exemplo do modelo baseado em aprendizado de máquina
    Palavra-chave permitida Palavra-chave proibida Mensagem a ser analisada Comportamento do sistema
    Você é burrinho. A mensagem será bloqueada.
    O pai dos burros A referência ao livro "O pai dos burros" pode ser útil. A mensagem será permitida.
    O pai dos burros estúpido "O pai dos burros" é um livro estúpido. A mensagem será bloqueada.
    idiota Eu me sinto tão idiota por não saber a resposta para sua pergunta. A mensagem será bloqueada.
    Eu me sinto tão idiota por não saber a resposta para sua pergunta. A mensagem será permitida.
    Tabela 2. Exemplo de modelo baseado em palavras-chave
    Palavra-chave permitida Palavra-chave proibida Mensagem a ser analisada Comportamento do sistema
    burro Você é burrinho. A mensagem será bloqueada.
    Você é burrinho. A mensagem será permitida.

    Separação de domínio com o Domain Separation

    O Filtro de linguagem obscena funciona com separação de domínio. Se o domínio estiver definido como Global, as palavras-chave se aplicarão aos domínios do agente e do solicitante. Para que o agente e o solicitante vejam o domínio um do outro, o administrador deve fazer o seguinte:
    • Incluir o domínio no qual a expressão regular deveria estar visível como um domínio secundário para o domínio primário correspondente.
    • Conceda o acesso necessário ao domínio apropriado se for um domínio irmão.
    • Defina as palavras-chave em um domínio global.