Cache para Now Assist resultados de perguntas e respostas do Genius

  • Versão de lançamento: Washingtondc
  • Atualizado 1 de fev. de 2024
  • 8 min. de leitura

    • Pesquisa com IA fornece dois caches de tempo de consulta para melhorar o desempenho da pesquisa para Now Assist Resultados de perguntas e respostas do Genius. O cache permite que Pesquisa com IA retorne respostas de resultado de perguntas e respostas do Genius Now Assist geradas anteriormente sem enviar artigos de conhecimento para Now LLM para geração de resposta.

    Visão geral

    Quando uma consulta de pesquisa aciona uma configuração de [ Now Assist resultado de perguntas e respostas do Genius, Pesquisa com IA usa a consulta de pesquisa e o sys_id do resultado da pesquisa de artigo de conhecimento com melhor classificação da pesquisa para procurar resumos de artigos em cache. Se nenhum resumo de artigo for encontrado nos caches ativos, Pesquisa com IA enviará a consulta de pesquisa e o sys_id do artigo para Now LLM para geração de resposta.
    Nota:
    Por padrão, Pesquisa com IA usa somente o cache de primeiro nível e o Now LLM ao encontrar Now Assist respostas do Genius Result de perguntas e respostas. Para habilitar o cache de segundo nível ou desabilitar o uso de Now LLM, os administradores podem mudar o modo operacional dos caches conforme descrito neste tópico.

    Níveis de cache

    O cache inclui dois níveis que funcionam de maneiras diferentes para melhorar o desempenho da pesquisa para Now Assist Resultados de perguntas e respostas do Genius.
    Cache de primeiro nível

    O cache de primeiro nível compreende uma lista de pares de chave-valor armazenados na memória para acesso rápido. Cada entrada de cache tem uma chave que inclui uma consulta de pesquisa e o sys_id de um artigo de conhecimento retornado por essa consulta. O valor da entrada de cache inclui o resumo gerado pelo Now LLM para a consulta de pesquisa e o artigo de conhecimento especificados.

    Ao verificar o cache de primeiro nível, Pesquisa com IA compara sua consulta de pesquisa e o sys_id do resultado da pesquisa do artigo de conhecimento com as chaves de entrada do cache. Se encontrar uma chave correspondente, ele retornará o resumo do artigo do valor de entrada de cache correspondente. Caso contrário, ele verificará o cache de segundo nível.
    Nota:
    O cache de primeiro nível só produz um resultado quando sua consulta de pesquisa é uma correspondência lexical exata para a consulta de pesquisa em cache. Por exemplo, se você pesquisar para evitar fraudes, não obterá um resultado para uma entrada em cache com a consulta de pesquisa Como evitar fraudes porque as duas consultas de pesquisa não contêm os mesmos termos.
    Cache de segundo nível

    O cache de segundo nível compreende uma tabela que está configurada como uma origem indexada Pesquisa com IA. Cada registro nesta tabela é uma entrada de cache e inclui uma consulta de pesquisa, o sys_id de um resultado de pesquisa de artigo de conhecimento associado, o resumo gerado para essa consulta e artigo de conhecimento e outros campos como fixado, sys_updated_on e run_as. Pesquisa com IA atualiza o índice desta tabela sempre que seus registros são criados, atualizados ou excluídos. Esta operação de atualização de índice pode levar até um minuto.

    Ao verificar o cache de segundo nível, Pesquisa com IA consulta a tabela indexada, procurando uma entrada que corresponda à sua consulta de pesquisa e ao sys_id do resultado da pesquisa do artigo de conhecimento. Se encontrar uma entrada correspondente, ele retornará o resumo do artigo armazenado na tabela indexada. Caso contrário, ele enviará sua consulta de pesquisa e o resultado da pesquisa de artigo de conhecimento para o Now LLM.
    Nota:
    Ao contrário do cache de primeiro nível, o cache de segundo nível compara os significados da consulta de pesquisa usando a pesquisa semântica. Portanto, você pode obter um resultado de cache mesmo que a consulta de pesquisa não seja uma correspondência lexical exata da consulta de pesquisa em cache. Por exemplo, se você pesquisar para evitar fraudes, poderá obter o resultado de uma entrada em cache com a consulta de pesquisa como evitar fraudes porque os significados das duas consultas de pesquisa são semelhantes. Para obter mais informações sobre pesquisa semântica, consulte Pesquisa semântica no Pesquisa com IA.

    Benefícios do cache

    O armazenamento em cache para Now Assist Resultados de perguntas e respostas do Genius oferece os seguintes benefícios:
    • Diminui o tempo médio de resposta para respostas comuns Now Assist de resultado de perguntas e respostas do Genius
    • Reduz o consumo de direito de Now Assist reduzindo o número de resultados de consulta de pesquisa enviados para Now LLM para Now Assist extração de resposta de perguntas e respostas
    • Aumenta a probabilidade de retornar uma Now Assist resposta de resultado de perguntas e respostas do Genius
    • Melhora a consistência da pesquisa retornando a mesma resposta Now Assist de resultado de perguntas e respostas do Genius para pesquisas semelhantes

    Segurança de conteúdo para consultas em cache

    Como Pesquisa com IA aplica restrições de segurança de conteúdo à sua pesquisa antes de corresponder a artigos de conhecimento e verificar os caches, nenhum dos caches retorna acertos para artigos de conhecimento aos quais você não tem acesso. Para obter detalhes completos sobre o modelo de segurança de conteúdo de Pesquisa com IA], consulte Segurança de conteúdo em Pesquisa com IA.

    Modos de cache

    Os caches de resposta Now Assist do resultado de perguntas e respostas do Genius são compatíveis com os seguintes modos operacionais:

    • off: use o cache de primeiro nível e Now LLM para encontrar respostas do Now Assistresultado das perguntas e respostas do Genius.

      Pesquisa com IA procura no cache de primeiro nível Now Assist respostas do resultado das perguntas e respostas do Genius que correspondam exatamente à sua pesquisa e ao resultado do artigo de conhecimento. Se não encontrar uma resposta correspondente, enviará sua consulta e o sys_id do artigo de conhecimento para Now LLM para geração de resposta.

      Now Assist Respostas do resultado de perguntas e respostas do Genius geradas por Now LLM preenchem o cache de primeiro nível.

    • offline: use os caches de primeiro e segundo níveis para encontrar Now Assist respostas do resultado de perguntas e respostas do Genius. Não envie consultas para Now LLM.

      Pesquisa com IA procura no cache de primeiro nível Now Assist respostas do resultado das perguntas e respostas do Genius que correspondam exatamente à sua pesquisa e ao resultado do artigo de conhecimento. Se não encontrar uma resposta correspondente, usará a pesquisa semântica para procurar respostas que correspondam ao significado da sua consulta no cache de segundo nível. Se nenhuma resposta em cache corresponder à sua consulta e ao resultado do artigo de conhecimento, Pesquisa com IA não retornará nenhuma resposta para o Now Assist resultado das perguntas e respostas do Genius.

      Now Assist Respostas do resultado das perguntas e respostas do Genius encontradas no cache de segundo nível preenchem o cache de primeiro nível.

    • online: use os caches de primeiro e segundo níveis e Now LLM para encontrar Now Assist respostas do resultado de perguntas e respostas do Genius.

      Pesquisa com IA procura no cache de primeiro nível Now Assist respostas do resultado das perguntas e respostas do Genius que correspondam exatamente à sua pesquisa e ao resultado do artigo de conhecimento. Se não encontrar uma resposta correspondente, usará a pesquisa semântica para procurar respostas que correspondam ao significado da sua consulta no cache de segundo nível. Se nenhuma resposta em cache corresponder à sua consulta e ao resultado do artigo de conhecimento, Pesquisa com IA enviará a consulta e o sys_id do artigo para Now LLM para geração de resposta.

      Now Assist Respostas do resultado de perguntas e respostas do Genius geradas por Now LLM preenchem os caches de primeiro e segundo níveis.

    O modo operacional padrão é off.

    Os administradores podem mudar o modo operacional dos caches de resposta do Now Assist resultado de perguntas e respostas do Genius definindo o valor da propriedade do sistema [ sn_ais_assist.semantic_cache_mode como off, offlineou online. Para obter detalhes sobre as configurações de propriedade do sistema, consulte Adicionar uma propriedade do sistema.

    Trabalho programado para gestão de cache

    O trabalho programado Update Semantic Cache é executado diariamente para executar as seguintes tarefas:
    • Preencha o cache de segundo nível com resultados para as consultas enviadas com mais frequência encontradas na tabela de sinal de pesquisa do Evento de pesquisa [sys_search_event]. Para obter mais informações sobre esta tabela, consulte Pesquisar tabelas de sinal.
    • Limpe todas as entradas de cache de segundo nível desafixadas que não foram usadas nos últimos sete dias. Os administradores de pesquisa podem fixar resultados na tabela de cache de segundo nível para impedir que eles sejam limpos. Para obter mais detalhes sobre este procedimento, consulte Fixar respostas em cache para Now Assist resultados de perguntas e respostas do Genius.

    Fixar respostas em cache para Now Assist resultados de perguntas e respostas do Genius

    Melhore o desempenho dos Now Assist resultados de perguntas e respostas do Genius fixando respostas usadas com frequência no cache de segundo nível. Fixar uma resposta a isenta do mecanismo de limpeza do cache.

    Antes de Iniciar

    Função necessária: ais_admin

    Por Que e Quando Desempenhar Esta Tarefa

    Os administradores de pesquisa podem fixar entradas no cache de segundo nível para Now Assist respostas do Genius Result de perguntas e respostas. O trabalho programado Update Semantic Cache ignora as entradas fixadas ao limpar o cache de segundo nível.

    Fixar entradas usadas com frequência ajuda a melhorar o desempenho da pesquisa, permitindo que Pesquisa com IA retorne respostas de resultado de perguntas e respostas do Genius geradas anteriormente Now Assist sem enviar artigos de conhecimento para Now LLM para geração de resposta.

    Para saber mais sobre o cache de resposta de segundo nível Now Assist do Genius Result de perguntas e respostas e seu uso, consulte Cache para Now Assist resultados de perguntas e respostas do Genius.

    Procedimento

    1. Navegue até a exibição de lista da tabela Now Assist no Pesquisa com IA Cache Semântico [sn_ais_assist_semantic_cache].
      1. Selecione “Tudo”.
      2. No filtro de navegação, insira sn_ais_assist_semantic_cache.list.
      3. Pressione Enter.
      Cada registro nesta tabela representa uma entrada de cache de segundo nível. A tabela é preenchida com Now Assist respostas do Genius Result de perguntas e respostas geradas anteriormente pelo Now LLM.
    2. Para cada registro de entrada de cache que você deseja fixar, execute estas etapas:
      1. Abra o registro de entrada de cache selecionando-o na exibição de lista.
      2. Defina o valor do campo Fixado do registro como verdadeiro.
      3. Selecione Atualizar.

    Resultado

    O trabalho programado Update Semantic Cache ignora suas entradas fixadas ao limpar o cache de segundo nível.