Gérer des modèles de langue volumineux

  • Rversion finale: Yokohama
  • Mis à jour 24 févr. 2025
  • 1 minute de lecture

    • Accédez au LLM (grand modèle de langage) utilisé pour diverses compétences Now Assist et sélectionnez-le. La sélection a un impact sur toutes les compétences au sein de l’option.

    Avant de commencer

    Rôle requis : admin

    Pour activer la sélection du fournisseur LLM, assurez-vous que la compétence est disponible dans cette région. Par exemple, pour mettre à jour le fournisseur LLM pour les résultats Genius de questions-réponses Now Assist, assurez-vous que toutes les compétences sous Compétences conversationnelles sont disponibles et actives dans la région.

    Procédure

    1. Accédez à la Tout > Administrateur Now Assist > Paramètres.
    2. Sélectionnez Fonctionnalités Now Assist pour trouver le workflow pour lequel vous souhaitez sélectionner le fournisseur LLM.
    3. Recherchez les compétences disponibles dans le workflow et sélectionnez Activer pour modifier le champ d’application de la région et, par conséquent, activer la compétence.
      Administrateur Now Assist : changer le champ d’application de la région pour la compétence
    4. Passez en revue les termes et conditions pour accepter ou revenir au changement de fournisseur LLM.
    5. Accédez à la Paramètres > Gérer les LLM.
      Paramètres administrateur Now Assist : gérer les LLM
    6. Sélectionnez parmi la compétence Plateforme, génération de code ou génération d’éléments de catalogue pour laquelle vous souhaitez mettre à jour le LLM.
    7. Sélectionnez le LLM dans la liste déroulante Fournisseur .
      Vous pouvez choisir entre Now LLM et Azure Open AI.
    8. Sélectionnez Enregistrer pour mettre à jour le LLM.
      Vous recevez un message d’accord avant de confirmer la sélection LLM.
      Remarque :
      Le message d’acceptation de l’accord s’affiche uniquement pour le nouvel utilisateur.
    9. Examinez le https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/deployment-types#global-standard pour accepter ou refuser le changement LLM.
      Remarque :
      Le choix d’Azure OpenAI a nécessité le changement d’emplacement de traitement des données de l’IA générative d’APJ (Asie-Pacifique et Japon) à un emplacement mondial.
    10. Sélectionnez J’accepte d’accepter et d’appliquer la sélection LLM.
      Vous recevez un message confirmant la sélection du fournisseur LLM pour cette option. La sélection envoie également une notification si l’une des compétences de cette option n’est pas mise à jour avec le LLM sélectionné.