Konfigurieren Sie API-Anmeldeinformationen für einen generischen LLM-Connector (Large Language Model).

  • Freigeben Version: Yokohama
  • Aktualisiert 30. Januar 2025
  • 2 Minuten Lesedauer

    • Verwenden Sie einen generischen LLM-Connector, um Now Platform mit einem externen KI-Anbieter zu verbinden und generative KI-Fähigkeiten in anwenderdefinierten Virtual Agent -Themen, Flows oder Skripts wie Hintergrund- und Business-Regelskripts zu verwenden.

    Vorbereitungen

    Sie müssen Zugriff auf die API eines externen LLM haben, um die Anmeldeinformationen zu konfigurieren.

    Erforderliche Rolle: Administrator

    Warum und wann dieser Vorgang ausgeführt wird

    Sie können ein externes LLM mit Now Platform verbinden, indem Sie einen Verbindungsalias für das Modell erstellen, einen Modelldatensatz erstellen, der auf den Alias verweist, einen Aufforderungsdatensatz für das Modell erstellen und dann einen Transformatordatensatz erstellen, um die Anforderung oder Antwort von umzuwandeln LLM.

    Prozedur

    1. Navigieren zu Alle > Verbindungen und Anmeldeinformationen > Anmeldeinformationen.
    2. Wählen Sie die API Key-Anmeldeinformationenaus
    3. Geben Sie Ihren API-Anmeldeinformationen im Feld Name einen Namen ein.
      Wenn Sie den Namen des Modells in die API-Schlüssel-Anmeldeinformationen aufnehmen, erleichtert dies die spätere Identifizierung.
    4. Geben Sie im Feld API-Schlüssel den API-Schlüssel Ihres Modells ein.
      Formular „Anmeldeinformationen für API-Schlüssel“, ausgefüllt mit Name und API-Schlüssel.
    5. Wählen Sie Absenden aus, um die Anmeldeinformationen zu erstellen.
      In diesem Schritt haben Sie die API-Schlüsselinformationen für das externe LLM konfiguriert.
    6. Navigieren zu Alle > Verbindungen und Anmeldeinformationen > Aliasse für Verbindungen und Anmeldeinformationen.
    7. Wählen Sie Neu.
    8. Geben Sie im Feld Name einen Namen für den Alias für Anmeldeinformationen ein.
      Sie müssen keine anderen Feldwerte ändern. Aliasdatensatz für Verbindungen und Anmeldeinformationen mit ausgefülltem Namen.
    9. Wählen Sie Absenden aus.
    10. Nachdem Sie zur Listenansicht weitergeleitet wurden, suchen und öffnen Sie den soeben erstellten Datensatz.
    11. Wählen Sie in der zugehörigen Liste „Verbindungen“ Neu aus, um einen neuen Verbindungsdatensatz zu erstellen.
    12. Geben Sie im Feld Name den Namen der Verbindung ein.
    13. Wählen Sie im Feld Anmeldeinformationen den Anmeldeinformationsdatensatz aus, den Sie mit dem API-Schlüssel des Modells erstellt haben.
      Sie können die Liste der Anmeldeinformationen durchsuchen, indem Sie den Namen der Anmeldeinformationen in das Feld eingeben. Sie können auch das Suchsymbol ( Suchsymbol) wählen, um ein modales Element mit der vollständigen Liste zu öffnen.
    14. Wählen Sie im Feld Verbindungsalias den von Ihnen erstellten Aliasdatensatz aus.
    15. Geben Sie als Verbindungs-URL die Endpunkt-URL für das Modell ein.
      Zum Beispiel kann ein Modell aus „Huging Face“ mit „https://api-inference.huggingface.co“ beginnen. Die verbleibenden Felder können Sie unverändert lassen. HTTP(s)-Verbindungsdatensatz, ausgefüllt mit Anmeldeinformationen, Alias und Verbindungs-URL für „Mein Modell“.
    16. Wählen Sie Absenden.

    Ergebnisse

    Sie verfügen über den Alias für Verbindungen und Anmeldeinformationen, mit dem Sie eine Verbindung zu einem generischen LLM herstellen können, um generative KI-Funktionen auf der Now Platform zu verwenden. Sie können dies bestätigen, indem Sie zu navigieren Alle > Verbindungen und Anmeldeinformationen > Aliasse für Verbindungen und Anmeldeinformationen und bestätigen, dass die Verbindung in der zugehörigen Liste angezeigt wird. Anmeldeinformationen und Alias für anwenderdefiniertes LLM abgeschlossen.

    Nächste Maßnahme

    Weitere Informationen zum Konfigurieren eines generischen LLM finden Sie unter Einen generischen LLM-Connector konfigurieren