Konfigurieren Sie den Schutz vor Prompt-Injektionsangriffen

  • Freigeben Version: Yokohama
  • Aktualisiert 30. Januar 2025
  • 1 Minute Lesedauer

    • Aktivieren oder deaktivieren Sie den Prompt-Injektions-Angriffsschutz für KI-generierte Texte und Konversationen.

    Vorbereitungen

    Erforderliche Rolle: sn_generative_ai.nsa_admin

    Warum und wann dieser Vorgang ausgeführt wird

    Prompt-Injektionsangriffe sind eine Art von Cybersicherheitsangriff, bei dem jemand versucht, die anfänglichen Anweisungen eines LLM zu überschreiben, um unbeabsichtigtes Verhalten hervorzurufen. Now Assist Trust kann diese Angriffsversuche erkennen und protokollieren, und Sie können auswählen, ob Sie die KI-generierte Antwort blockieren möchten, nachdem der Angriff versucht wurde.

    Weitere Informationen finden Sie unter Now Assist-Beschützer.

    Protokolle können zur Überprüfung exportiert werden. Eine Anleitung hierzu finden Sie unter Now Assist-Manager-Protokolle exportieren.

    Prozedur

    1. Navigieren zu Alle > Now Assist Admin > Einstellungen.
    2. Wechseln Sie im Seitenbereich zu Now Assist Guardian > Prompt Injection.
    3. Wählen Sie den Umschalter, um den aktiven Status des Angriffsschutzes mit sofortiger Einschleusung zu ändern.

      Der Schutz vor Soforteinschleusungsangriffen ist standardmäßig aktiviert. Das bedeutet, dass Now Assist-Beschützer Versuche protokolliert, sofern Sie ihn nicht deaktivieren.

    4. Wahlweise: Wählen Sie unter Erkennungsauswirkungdas Optionssymbol ( Optionssymbol.) und dann Bearbeiten, um die Erkennungsauswirkung zu ändern.

      Sie können auswählen, ob Prompt-Einschleusungsangriffe blockiert und protokolliert werden.

      Auswahlkarte für die Auswahl der Auswirkungen auf die Erkennung des Aufforderungsinjektionsschutzes, bei der „Nur protokollieren“ ausgewählt ist

    Ergebnisse

    Sie haben konfiguriert, ob der Schutz vor Prompt-Einschleusungsangriffen auf Ihrer Instanz aktiviert ist, und festgelegt, was Now Assist-Schutz im Falle eines Versuchs tun soll.