Verwalten Sie große Sprachmodelle

  • Freigeben Version: Yokohama
  • Aktualisiert 24. Februar 2025
  • 1 Minute Lesedauer

    • Greifen Sie auf das LLM (großes Sprachmodell) zu, das für verschiedene Now Assist-Kompetenzen verwendet wird, und wählen Sie es aus. Die Auswahl wirkt sich auf alle Kompetenzen innerhalb der Fähigkeit aus.

    Vorbereitungen

    Erforderliche Rolle: Administrator

    Um die LLM-Anbieterauswahl zu aktivieren, stellen Sie sicher, dass die Kompetenz in dieser Region verfügbar ist. Um beispielsweise den LLM-Anbieter für Now Assist-F&A Genius-Ergebnisse zu aktualisieren, stellen Sie sicher, dass alle Kompetenzen unter Konversationskompetenzen in der Region verfügbar und aktiv sind.

    Prozedur

    1. Navigieren zu Alle > Now Assist Admin > Einstellungen.
    2. Wählen Sie Now Assist-Funktionen, um den Workflow zu finden, für den Sie den LLM-Anbieter auswählen möchten.
    3. Suchen Sie die verfügbaren Kompetenzen im Workflow, und wählen Sie Aktivieren, um den Regionsbereich zu ändern und damit die Kompetenz zu aktivieren.
      Now Assist-Administrator: Ändern Sie den Regionsbereich für die Kompetenz
    4. Überprüfen Sie die Nutzungsbedingungen, um den LLM-Anbieterwechsel zu akzeptieren oder rückgängig zu machen.
    5. Navigieren zu Einstellungen > Verwalten Sie LLMs.
      Now Assist-Administratoreinstellungen: LLMs verwalten
    6. Wählen Sie aus der Kompetenz „Plattform“, „Codegenerierung“ oder „Katalogelementgenerierung“ aus, für die Sie das LLM aktualisieren möchten.
    7. Wählen Sie in der Dropdownliste Anbieter das LLM aus.
      Sie können zwischen Now LLM und Azure Open AI wählen.
    8. Wählen Sie Speichern, um das LLM zu aktualisieren.
      Sie erhalten eine Vereinbarungsnachricht, bevor Sie die LLM-Auswahl bestätigen.
      Hinweis:
      Die Nachricht zur Annahme der Vereinbarung wird nur dem erstmaligen Anwender angezeigt.
    9. Überprüfen Sie https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/deployment-types#global-standard, um dem LLM-Change zuzustimmen oder ihn abzulehnen.
      Hinweis:
      Durch die Auswahl von Azure OpenAI muss der Standort für die Gen AI-Datenverarbeitung von APJ (Asien-Pazifik und Japan) in den globalen Standort geändert werden.
    10. Wählen Sie Ich stimme zu, um die LLM-Auswahl zu akzeptieren und anzuwenden.
      Sie erhalten eine Nachricht, in der die Auswahl des LLM-Anbieters für diese Fähigkeit bestätigt wird. Die Auswahl benachrichtigt Sie auch, wenn eine der Kompetenzen in dieser Fähigkeit nicht mit dem ausgewählten LLM aktualisiert wird.