Descoberta de tópico do LLM no Virtual Agent
Os modelos de linguagem grandes (LLMs) permitem que o Virtual Agent processe declarações do usuário em linguagem simples. Conversas que usam LLMs podem ter desempenhos melhores do que as conversas que usam Compreensão da linguagem natural (NLU), com uma configuração mais fácil.
Como os LLMs funcionam no Virtual Agent
Ao criar um tópico em Designer do Virtual Agent, você pode selecionar LLM como o tipo de modelo para o tópico sempre que o painel Now Assist no Virtual Agent estiver ativado. O Virtual Agent usa IA generativa de LLM para descobrir tópicos que correspondem à intenção do usuário.
Ao contrário dos tópicos NLU, os LLMs não exigem que modelos, intenções ou palavras-chave sejam vinculados ao tópico. Os LLMs podem descobrir tópicos e executar tarefas relacionadas ao idioma, como geração de texto para a criação de resumos de casos e anotações de resolução, sem precisar de meses de treinamento nos modelos NLU. De modo geral, é possível criar, configurar e implantar tópicos do LLM mais rapidamente do que trabalhando com NLU.
Com os LLMs, o Virtual Agent pode fazer o seguinte:
- Executar a descoberta de tópicos sem precisar de uma intenção declarada única em um determinado tópico.
- Encontrar intenções sem palavras-chave de backup, como na modelagem de NLU.
- Extrair valores de entidade sem mapeamento anterior, como na modelagem NLU.
- Lidar com várias mudanças de tópico da conversa em uma única sessão.
Descoberta de tópicos
Com a descoberta de tópicos do LLM, autores de tópicos não precisam mais criar e manter modelos e intenções de NLU complexos com palavras-chave de backup. O LLM faz todo o trabalho pesado para você. O único requisito é uma descrição de tópico em linguagem simples e robusta na guia Propriedades em Designer do Virtual Agent. O LLM usa essa descrição para encontrar a melhor correspondência de tópico para o enunciado do usuário. Se houver várias correspondências possíveis, o usuário verá uma lista de tópicos para escolher.
Por exemplo, se um usuário pedir que o Virtual Agent calcule uma taxa de compartilhamento de viagem, o LLM corresponderá ao enunciado do usuário com um tópico existente que pode calcular o compartilhamento de viagem com uma dica.
Extração de entidade
Com os tópicos do LLM, o LLM tem todas as informações necessárias para determinar se um enunciado tem as informações para atender a uma solicitação. Diferente dos modelos NLU, você não precisa associar entidades a um nó de entrada do usuário ou adicionar entidades NLU sem nó como variáveis de entrada a um tópico. O LLM simplesmente encontra a entidade que mais se adapta à intenção do usuário.
Alternância de tópicos
A alternância de tópicos é mais rápida e fácil com LLMs em comparação com tópicos NLU. O LLM processa suas solicitações para mudar a intenção em linguagem natural e ativa o tópico apropriado.
Por exemplo, se você começar uma conversa pesquisando sobre um telefone celular, não será preciso cancelar o primeiro pedido ou reiniciar a conversa. Você poderá solicitar que o Virtual Agent busque um laptop. Assim, o Virtual Agent mudará imediatamente do tópico "telefone celular" para o tópico "laptop". A alternância de tópicos pode ser feita durante uma consulta, mas não em um fluxo de ordenação de catálogo.