Gerenciar modelos de idioma grandes

  • Versão de lançamento: Yokohama
  • Atualizado 24 de fev. de 2025
  • 1 min. de leitura

    • Acesse e selecione o LLM (grande modelo de idioma) usado para várias habilidades do Now Assist. A seleção afeta todas as habilidades na capacidade.

    Antes de Iniciar

    Função necessária: administrador

    Para habilitar a seleção do provedor LLM, certifique-se de que a habilidade esteja disponível nessa região. Por exemplo, para atualizar o provedor de LLM para resultados do Genius de perguntas e respostas do Now Assist, certifique-se de que todas as habilidades em Habilidades de conversação estejam disponíveis e ativas na região.

    Procedimento

    1. Navegar até Tudo > Administrador do Now Assist > Configurações.
    2. Selecione Recursos do Now Assist para encontrar o fluxo de trabalho para o qual você deseja selecionar o provedor de LLM.
    3. Encontre as habilidades disponíveis no fluxo de trabalho e selecione Ativar para mudar o escopo da região e, portanto, habilitar a habilidade.
      Administrador do Now Assist - Mudar escopo de região da habilidade
    4. Revise os termos e condições para aceitar ou reverter para a mudança do provedor de LLM.
    5. Navegar até Configurações > Gerenciar LLMs.
      Configurações de administrador do Now Assist - Gerenciar LLMs
    6. Selecione na plataforma, geração de código ou habilidade de geração de item do catálogo para a qual você deseja atualizar o LLM.
    7. Selecione o LLM no menu suspenso Provedor.
      Você pode escolher entre o Now LLM e o Open AI do Azure.
    8. Selecione Salvar para atualizar o LLM.
      Você recebe uma mensagem de acordo antes de confirmar a seleção do LLM.
      Nota:
      A mensagem de aceitação do acordo é exibida somente para o usuário pela primeira vez.
    9. Revise o https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/deployment-types#global-standard para concordar ou negar a mudança do LLM.
      Nota:
      A seleção do OpenAI do Azure exigia a mudança do local de processamento de dados da IA generativa de APJ (Ásia-Pacífico e Japão) para local global.
    10. Selecione Concordo para aceitar e aplicar a seleção de LLM.
      Você recebe uma mensagem confirmando a seleção do provedor de LLM para essa capacidade. A seleção também notificará se alguma das habilidades nessa capacidade não for atualizada com o LLM selecionado.