Q&A Genius 結果のキャッシュNow Assist

  • リリースバージョン: Washingtondc
  • 更新日 2024年02月01日
  • 読む9読むのに数分

    • AI 検索 は、Q&A Genius Results の検索パフォーマンス Now Assist を向上させるために、2 つのクエリ時キャッシュを提供します。キャッシュを使用するとAI 検索、ナレッジ記事を回答生成のために送信することなく、Now LLM以前に生成された Now Assist Q&A Genius 結果の回答を返すことができます。

    概要

    検索クエリが Now Assist Q&A Genius 結果構成をトリガーすると、 AI 検索 検索クエリと検索の上位のナレッジ記事検索結果のsys_idを使用して、キャッシュされた記事のサマリーを検索します。アクティブなキャッシュに記事のサマリーが見つからない場合は、 AI 検索 検索クエリと記事のsys_idを回答生成のため Now LLM に送信します。
    注:
    デフォルトでは、 AI 検索 第 1 レベルのキャッシュと Now LLM Q&A Genius 結果回答の検索 Now Assist 時のみが使用されます。第 2 レベルのキャッシュを有効にしたり、 の使用 Now LLMを無効にしたりするには、管理者はこのトピックの説明に従ってキャッシュの操作モードを変更できます。

    キャッシュレベル

    キャッシュには、Q&A Genius Results の検索パフォーマンス Now Assist を向上させるために異なる方法で動作する 2 つのレベルが含まれています。
    第 1 レベルのキャッシュ

    第 1 レベルのキャッシュは、高速アクセスのためにメモリに格納されているキーと値のペアのリストで構成されます。各キャッシュ エントリには、検索クエリとそのクエリによって返されるナレッジ記事のsys_idを含むキーがあります。キャッシュエントリーの値には、指定された検索クエリとナレッジ記事に対して生成された Now LLM サマリーが含まれます。

    第 1 レベルのキャッシュを確認するときに、 AI 検索 検索クエリとナレッジ記事の検索結果のsys_idをキャッシュエントリキーと比較します。一致するキーが見つかった場合は、対応するキャッシュ エントリ値から記事の概要を返します。それ以外の場合は、第 2 レベルのキャッシュをチェックします。
    注:
    第 1 レベルのキャッシュでは、検索クエリがキャッシュされた検索クエリと完全に一致する場合にのみ結果が生成されます。たとえば、 詐欺の回避 を検索する場合、2 つの検索クエリに同じ用語が含まれていないため、 検索クエリを含む キャッシュされたエントリの結果は得られません。
    第 2 レベルのキャッシュ

    第 2 レベルのキャッシュは、インデックス付きソースとして AI 検索 構成されたテーブルで構成されます。このテーブルの各レコードはキャッシュエントリであり、検索クエリ、関連付けられたナレッジ記事の検索結果のsys_id、そのクエリとナレッジ記事に対して生成されたサマリー、その他のフィールド (固定、sys_updated_on、run_asなど) が含まれます。 AI 検索 レコードが作成、更新、または削除されるたびに、このテーブルのインデックスを更新します。このインデックス更新操作には最大 1 分かかる場合があります。

    第 2 レベルのキャッシュを確認する際に、インデックス付きテーブルに対してクエリを実行し、 AI 検索 検索クエリとナレッジ記事検索結果のsys_idに一致するエントリを探します。一致するエントリが見つかった場合は、インデックス付きテーブルに格納されている記事の概要を返します。それ以外の場合は、検索クエリとナレッジ記事の検索結果をに送信します Now LLM。
    注:
    第 1 レベルのキャッシュとは異なり、第 2 レベルのキャッシュはセマンティック検索を使用して検索クエリの意味を比較するため、検索クエリがキャッシュされた検索クエリと完全に一致する語彙でなくても、キャッシュ結果が得られる可能性があります。たとえば、「詐欺 の回避 」を検索する場合、2 つの検索クエリの意味が似ているため、「 詐欺を防ぐ方法 」の検索クエリを含むキャッシュされたエントリの結果が得られる場合があります。セマンティック検索の詳細については、次のリンクを参照してください のセマンティック検索 AI 検索。

    キャッシュの利点

    Q&A Genius 結果のキャッシュには Now Assist 、次の利点があります。
    • 一般的な Now Assist Q&A Genius 結果回答の平均応答時間が短縮されます
    • Q&A 回答抽出のためにNow Assist送信されるNow LLM検索クエリ結果の数を減らすことで、エンタイトルメントの消費量を削減しNow Assistます
    • Q&A Genius Result 回答が Now Assist 返される可能性が高くなります
    • 類似の検索に対して同じ Now Assist Q&A Genius Result 回答を返すことで、検索の一貫性が向上します。

    キャッシュされたクエリのコンテンツセキュリティ

    はナレッジ記事を照合してキャッシュをチェックする前に検索にコンテンツセキュリティ制限を適用するため AI 検索 、どちらのキャッシュもアクセス権のないナレッジ記事のヒットを返しません。のコンテンツセキュリティモデルの詳細については AI 検索、「」を参照してください AI 検索 のコンテンツセキュリティ。

    キャッシュモード

    Q&A Genius 結果回答キャッシュは Now Assist 、次の操作モードをサポートしています。

    • off:第 1 レベルのキャッシュとを使用して Now LLM 、Q&A Genius 結果の回答を検索します Now Assist 。

      AI 検索 は、第 1 レベルのキャッシュ Now Assist で、検索クエリとナレッジ記事の結果と完全に一致する Q&A Genius 結果の回答を探します。一致する回答が見つからない場合は、クエリとナレッジ記事のsys_idが回答の生成に送信されます Now LLM 。

      Now Assist によって生成された Now LLM Q&A Genius 結果回答は、第 1 レベルのキャッシュに入力されます。

    • offline:第 1 レベルと第 2 レベルのキャッシュを使用して、Q&A Genius 結果の回答を検索します Now Assist 。にクエリ Now LLMを送信しないでください。

      AI 検索 は、第 1 レベルのキャッシュ Now Assist で、検索クエリとナレッジ記事の結果と完全に一致する Q&A Genius 結果の回答を探します。一致する回答が見つからない場合は、セマンティック検索を使用して、第 2 レベルのキャッシュでクエリの意味に一致する回答を探します。クエリとナレッジ記事の結果に一致する回答がキャッシュされていない場合、 AI 検索 Q&A Genius 結果に対する Now Assist 回答は返されません。

      Now Assist 第 2 レベルのキャッシュで見つかった Q&A Genius 結果の回答は、第 1 レベルのキャッシュに入力されます。

    • online:第 1 レベルと第 2 レベルのキャッシュを使用し Now LLM 、Q&A Genius 結果の回答を見つけます Now Assist 。

      AI 検索 は、第 1 レベルのキャッシュ Now Assist で、検索クエリとナレッジ記事の結果と完全に一致する Q&A Genius 結果の回答を探します。一致する回答が見つからない場合は、セマンティック検索を使用して、第 2 レベルのキャッシュでクエリの意味に一致する回答を探します。キャッシュされた回答がクエリとナレッジ記事の結果と一致しない場合は、 AI 検索 クエリと記事のsys_idを回答生成のため Now LLM に送信します。

      Now Assist によって生成された Q&A Genius 結果回答は Now LLM 、第 1 レベルと第 2 レベルのキャッシュに入力されます。

    デフォルトの操作モードは offです。

    管理者は、システムプロパティoffの値を sn_ais_assist.semantic_cache_mode , または onlineに設定することで、offlineQ&A Genius 結果回答キャッシュの操作モードNow Assistを変更できます。システムプロパティ設定の詳細については、「」を参照してください システムプロパティを追加する。

    キャッシュ管理のジョブスケジュール

    スケジュール設定済みジョブは Update Semantic Cache 毎日実行され、次のタスクを実行します。
    • 検索イベント [sys_search_event] 検索シグナルテーブルで見つかった最も頻繁に送信されたクエリの結果を第 2 レベルのキャッシュに入力します。このテーブルの詳細については、「検索シグナルテーブル」を参照してください。
    • 過去 7 日間使用されていない、固定されていない第 2 レベルのキャッシュエントリをすべて消去します。検索管理者は、結果を第 2 レベルのキャッシュ テーブルに固定して、パージされないようにすることができます。この手順の詳細については、「Q&A Genius 結果のキャッシュされた回答を固定するNow Assist」を参照してください。

    Q&A Genius 結果のキャッシュされた回答を固定するNow Assist

    頻繁に使用される回答を第 2 レベルのキャッシュに固定することで、Q&A Genius 結果のパフォーマンス Now Assist を向上させます。回答を固定すると、キャッシュの消去メカニズムから除外されます。

    始める前に

    必要なロール：ais_admin

    このタスクについて

    検索管理者は、Q&A Genius 結果回答の第 2 レベルのキャッシュに Now Assist エントリを固定できます。スケジュール設定済みジョブは Update Semantic Cache 、第 2 レベルのキャッシュを消去するときに固定されたエントリーを無視します。

    頻繁に使用されるエントリを固定すると、ナレッジ記事を回答生成に送信せずに、Now LLM以前に生成された Now Assist Q&A Genius 結果の回答を返すことができるためAI 検索、検索パフォーマンスが向上します。

    第 2 レベルの Now Assist Q&A Genius 結果回答キャッシュとその使用方法の詳細については、以下を参照してください Q&A Genius 結果のキャッシュNow Assist。

    手順

    1. セマンティックキャッシュ [sn_ais_assist_semantic_cache] テーブルのリストビューに移動しますNow AssistAI 検索。
      1. [すべて] を選択します。
      2. ナビゲーションフィルターで、「 sn_ais_assist_semantic_cache.list」と入力します。
      3. Enter を押します。
      このテーブルの各レコードは、第 2 レベルのキャッシュ エントリを表します。テーブルには、によって以前に生成された Now LLMQ&A Genius Result 回答が入力されますNow Assist。
    2. 固定するキャッシュ エントリ レコードごとに、次の手順を実行します。
      1. リストビューからキャッシュエントリレコードを選択して開きます。
      2. レコードの [固定 ] フィールドの値を [true] に設定します。
      3. [更新] を選択します。

    タスクの結果

    スケジュール設定済みジョブは Update Semantic Cache 、第 2 レベルのキャッシュを消去するときに、固定されたエントリーを無視します。