Zwischenspeicherung für Now Assist Q&A Genius-Ergebnisse

  • Freigeben Version: Washingtondc
  • Aktualisiert 1. Februar 2024
  • 6 Minuten Lesedauer

    • KI-Suche stellt zwei Abfragezeit-Caches bereit, um die Suchleistung für Now Assist Q&A Genius-Ergebnisse zu verbessern. Durch die Zwischenspeicherung kann KI-Suche zuvor generierte Now Assist Q&A Genius-Ergebnisantworten zurückgeben, ohne Wissensartikel zur Antwortgenerierung an Now LLM zu senden.

    Übersicht

    Wenn eine Suchabfrage eine Now Assist Q&A Genius-Ergebniskonfiguration auslöst, verwendet KI-Suche die Suchabfrage und die sys_id des am besten bewerteten Suchergebnisses für Wissensartikel der Suche, um nach zwischengespeicherten Artikelzusammenfassungen zu suchen. Wenn in den aktiven Caches keine Artikelzusammenfassung gefunden wird, sendet KI-Suche die Suchabfrage und die sys_id des Artikels zur Antwortgenerierung an Now LLM.
    Hinweis:
    Standardmäßig verwendet KI-Suche nur den Cache der ersten Ebene und Now LLM, wenn Now Assist Q&A Genius-Ergebnisantworten gefunden werden. Um den Cache der zweiten Ebene zu aktivieren oder die Verwendung von Now LLMzu deaktivieren, können Administratoren den Betriebsmodus für die Caches wie in diesem Thema beschrieben ändern.

    Cache-Ebenen

    Der Cache enthält zwei Ebenen, die auf unterschiedliche Weise zur Verbesserung der Suchleistung für Now Assist Q&A Genius-Ergebnisse beitragen.
    Cache der ersten Ebene

    Der Cache der ersten Ebene umfasst eine Liste von Schlüssel-Wert-Paaren, die für einen schnellen Zugriff im Speicher abgelegt werden. Jeder Cache-Eintrag verfügt über einen Schlüssel, der eine Suchabfrage und die sys_id eines von dieser Abfrage zurückgegebenen Wissensartikels enthält. Der Wert des Cache-Eintrags enthält die von Now LLM generierte Zusammenfassung für die angegebene Suchabfrage und den angegebenen Wissensartikel.

    Bei der Überprüfung des Cache der ersten Ebene vergleicht KI-Suche Ihre Suchabfrage und die sys_id des Suchergebnisses für Wissensartikel mit den Cache-Eintragsschlüsseln. Wenn ein übereinstimmender Schlüssel gefunden wird, wird die Artikelzusammenfassung aus dem entsprechenden Cache-Eintragswert zurückgegeben. Andernfalls wird der Cache der zweiten Ebene überprüft.
    Hinweis:
    Der Cache der ersten Ebene gibt nur dann ein Ergebnis zurück, wenn Ihre Suchabfrage eine exakte lexikalische Übereinstimmung mit der zwischengespeicherten Suchabfrage ist. Wenn Sie beispielsweise nach „ Betrug vermeiden “ suchen, erhalten Sie kein Ergebnis für einen zwischengespeicherten Eintrag mit der Suchabfrage , wie Betrug verhindert werden kann, da die beiden Suchabfragen nicht dieselben Begriffe enthalten.
    Cache der zweiten Ebene

    Der Cache der zweiten Ebene umfasst eine Tabelle, die als indizierte Quelle KI-Suche konfiguriert ist. Jeder Datensatz in dieser Tabelle ist ein Cache-Eintrag und enthält eine Suchabfrage, die sys_id für ein zugeordnetes Suchergebnis eines Wissensartikels, die für diese Abfrage und diesen Wissensartikel generierte Zusammenfassung und andere Felder wie angeheftet, sys_updated_on und run_as. KI-Suche aktualisiert den Index für diese Tabelle, wenn ihre Datensätze erstellt, aktualisiert oder gelöscht werden. Dieser Indexaktualisierungsvorgang kann bis zu einer Minute dauern.

    Bei der Überprüfung des Cache der zweiten Ebene fragt KI-Suche die indizierte Tabelle ab und sucht nach einem Eintrag, der Ihrer Suchabfrage und der sys_id des Suchergebnisses für Wissensartikel entspricht. Wenn ein übereinstimmender Eintrag gefunden wird, wird die in der indizierten Tabelle gespeicherte Artikelzusammenfassung zurückgegeben. Andernfalls werden Ihre Suchabfrage und das Ergebnis der Wissensartikelsuche an Now LLMübermittelt.
    Hinweis:
    Im Gegensatz zum Cache der ersten Ebene vergleicht der Cache der zweiten Ebene die Bedeutung von Suchabfragen mithilfe der semantischen Suche, sodass Sie möglicherweise ein Cache-Ergebnis erhalten, auch wenn Ihre Suchabfrage keine exakte lexikalische Übereinstimmung mit der zwischengespeicherten Suchabfrage ist. Wenn Sie beispielsweise nach „ Betrug vermeiden “ suchen, erhalten Sie möglicherweise das Ergebnis für einen zwischengespeicherten Eintrag mit der Suchabfrage , wie Betrug verhindert werden kann, da die Bedeutungen der beiden Suchabfragen ähnlich sind. Weitere Informationen zur semantischen Suche finden Sie unter Semantische Suche in KI-Suche.

    Vorteile der Zwischenspeicherung

    Die Zwischenspeicherung für Now Assist Q&A Genius-Ergebnisse bietet die folgenden Vorteile:
    • Verringert die durchschnittliche Antwortzeit für allgemeine Now Assist Q&A Genius-Ergebnisantworten
    • Verringert den Verbrauch von Berechtigungen für Now Assist, indem die Anzahl der Suchergebnisse reduziert wird, die an Now LLM gesendet werden, um Now Assist Q&A-Antworten zu extrahieren
    • Erhöht die Wahrscheinlichkeit, eine Antwort vom Typ Now Assist Q&A Genius-Ergebnis zurückzugeben
    • Verbessert die Suchkonsistenz, indem bei ähnlichen Suchen dieselbe Now Assist Q&A Genius-Ergebnisantwort zurückgegeben wird

    Inhaltssicherheit für zwischengespeicherte Abfragen

    Da KI-Suche Content Security-Einschränkungen auf Ihre Suche anwendet, bevor Wissensartikel abgeglichen und die Caches überprüft werden, gibt keiner der Caches Treffer für Wissensartikel zurück, auf die Sie keinen Zugriff haben. Ausführliche Informationen zum Inhaltssicherheitsmodell von KI-Suchefinden Sie unter Inhaltssicherheit in KI-Suche.

    Cache-Modi

    Die Antwort-Caches von Now Assist Q&A Genius-Ergebnis unterstützen die folgenden Betriebsmodi:

    • off: Verwenden Sie den Cache der ersten Ebene und Now LLM, um Now Assist Q&A Genius-Ergebnisantworten zu finden.

      KI-Suche sucht im Cache der ersten Ebene nach Now Assist Q&A Genius-Ergebnisantworten, die genau mit Ihrer Suchabfrage und dem Ergebnis des Wissensartikels übereinstimmen. Wenn keine übereinstimmende Antwort gefunden wird, werden Ihre Abfrage und die sys_id des Wissensartikels zur Generierung der Antwort an Now LLM gesendet.

      Now Assist Q&A Genius-Ergebnisantworten, die von Now LLM generiert werden, füllen den Cache der ersten Ebene.

    • offline: Verwenden Sie die Caches der ersten und zweiten Ebene, um Now Assist Q&A Genius-Ergebnisantworten zu finden. Senden Sie keine Abfragen an Now LLM.

      KI-Suche sucht im Cache der ersten Ebene nach Now Assist Q&A Genius-Ergebnisantworten, die genau mit Ihrer Suchabfrage und dem Ergebnis des Wissensartikels übereinstimmen. Wenn keine passende Antwort gefunden wird, wird die semantische Suche verwendet, um im Cache der zweiten Ebene nach Antworten zu suchen, die der Bedeutung Ihrer Abfrage entsprechen. Wenn keine zwischengespeicherten Antworten mit Ihrer Abfrage und dem Wissensartikelergebnis übereinstimmen, gibt KI-Suche keine Antwort für das Now Assist Q&A Genius-Ergebnis zurück.

      Now Assist Q&A Genius-Ergebnisantworten, die im Cache der zweiten Ebene gefunden werden, füllen den Cache der ersten Ebene.

    • online: Verwenden Sie die Caches der ersten und zweiten Ebene und Now LLM, um Antworten zu Now Assist Q&A Genius-Ergebnissen zu finden.

      KI-Suche sucht im Cache der ersten Ebene nach Now Assist Q&A Genius-Ergebnisantworten, die genau mit Ihrer Suchabfrage und dem Ergebnis des Wissensartikels übereinstimmen. Wenn keine passende Antwort gefunden wird, wird die semantische Suche verwendet, um im Cache der zweiten Ebene nach Antworten zu suchen, die der Bedeutung Ihrer Abfrage entsprechen. Wenn keine zwischengespeicherten Antworten mit dem Ergebnis Ihrer Abfrage und Ihres Wissensartikels übereinstimmen, sendet [ KI-Suche die sys_id der Abfrage und des Artikels zur Generierung von Antworten an Now LLM.

      Now Assist Q&A Genius-Ergebnisantworten, die von Now LLM generiert werden, füllen die Caches der ersten und zweiten Ebene.

    Der Standardbetriebsmodus ist off.

    Administratoren können den Betriebsmodus für die Antwort-Caches für Now Assist Q&A Genius-Ergebnisse ändern, indem sie den Wert für die Systemeigenschaft [ sn_ais_assist.semantic_cache_mode auf off, offlineoder onlinefestlegen . Weitere Informationen zu Systemeigenschafteneinstellungen finden Sie unter Systemeigenschaft hinzufügen.

    Geplante Aufgabe für die Cache-Verwaltung

    Die geplante Aufgabe Update Semantic Cache wird täglich ausgeführt, um die folgenden Aufgaben auszuführen:
    • Füllen Sie den Cache der zweiten Ebene mit Ergebnissen für die am häufigsten übermittelten Abfragen, die in der Suchsignaltabelle „Suchereignis“ [sys_search_event] gefunden wurden. Weitere Informationen zu dieser Tabelle finden Sie unter Signaltabellen durchsuchen.
    • Löschen Sie alle nicht angehefteten Cache-Einträge der zweiten Ebene, die in den letzten sieben Tagen nicht verwendet wurden. Suchadministratoren können Ergebnisse in der Cache-Tabelle der zweiten Ebene anheften, um zu verhindern, dass sie gelöscht werden. Weitere Informationen zu diesem Verfahren finden Sie unter Zwischengespeicherte Antworten für Now Assist Q&A Genius-Ergebnisse anheften.

    Zwischengespeicherte Antworten für Now Assist Q&A Genius-Ergebnisse anheften

    Verbessern Sie die Leistung für Now Assist Q&A Genius-Ergebnisse, indem Sie häufig verwendete Antworten im Cache der zweiten Ebene anheften. Durch das Anheften einer Antwort wird sie vom Löschmechanismus des Cache befreit.

    Vorbereitungen

    Erforderliche Rolle: ais_admin

    Warum und wann dieser Vorgang ausgeführt wird

    Suchadministratoren können Einträge im Cache der zweiten Ebene für Antworten von Now Assist Q&A Genius-Ergebnis anheften. Die geplante Aufgabe Update Semantic Cache ignoriert angeheftete Einträge, wenn der Cache der zweiten Ebene geleert wird.

    Das Anheften häufig verwendeter Einträge trägt zur Verbesserung der Suchleistung bei, indem KI-Suche in die Lage versetzt wird, zuvor generierte Now Assist Q&A Genius-Ergebnisantworten zurückzugeben, ohne Wissensartikel zur Antwortgenerierung an Now LLM zu senden.

    Weitere Informationen zum Antwort-Cache für Q&A-Genius-Ergebnisse der zweiten Ebene und seiner Verwendung finden Sie unter Now AssistZwischenspeicherung für Now Assist Q&A Genius-Ergebnisse.

    Prozedur

    1. Navigieren Sie zu Now Assist in der Listenansicht der Tabelle „ KI-Suche Semantischer Cache [sn_ais_assist_semantic_cache].
      1. Wählen Sie Alleaus.
      2. Geben Sie im Navigationsfilter sn_ais_assist_semantic_cache.listein.
      3. Drücken Sie die Eingabetaste.
      Jeder Datensatz in dieser Tabelle stellt einen Cache-Eintrag der zweiten Ebene dar. Die Tabelle wird mit Now Assist Q&A Genius-Ergebnisantworten ausgefüllt, die zuvor von Now LLMgeneriert wurden.
    2. Führen Sie für jeden Cache-Eintragsdatensatz, den Sie anheften möchten, die folgenden Schritte aus:
      1. Öffnen Sie den Cache-Eintragsdatensatz, indem Sie ihn in der Listenansicht auswählen.
      2. Legen Sie den Wert des angehefteten Felds des Datensatzes auf truefest.
      3. Wählen Sie Aktualisieren.

    Ergebnisse

    Die geplante Aufgabe Update Semantic Cache ignoriert Ihre angehefteten Einträge, wenn der Cache der zweiten Ebene geleert wird.