仮想エージェントでの LLM トピックディスカバリー
大規模言語モデル (LLM) を使用すると、 仮想エージェント はユーザーステートメントを分かりやすい言葉で処理できます。LLM を使用する会話は、 自然言語理解 (NLU) (NLU) を使用する会話よりも優れており、セットアップも簡単です。
仮想エージェントでの LLM の仕組み
仮想エージェントデザイナー の LLM トピックについては、このビデオをご覧ください。
仮想エージェントデザイナー でトピックを作成する場合、仮想エージェント のNow Assistがオンになっている場合はいつでも、トピックのモデルタイプとして LLM を選択できます。次に、仮想エージェント は LLM 生成 AI を使用して、ユーザーのインテントに一致するトピックを検出します。
NLUトピックとは異なり、LLM ではモデル、インテント、またはキーワードをトピックにリンクする必要はありません。LLM は、 NLU モデルで何ヶ月もトレーニングしなくても、トピックを検出し、ケースのサマリーや解決メモのテキスト生成などの言語関連タスクを実行できます。全体として、LLM トピックは、 NLU を使用する場合よりも迅速に作成、構成、展開できます。
LLM を使用すると、 仮想エージェント 次のことができます。
- 特定のトピックで単一の宣言されたインテントを必要とせずにトピックディスカバリーを実行する。
- NLUモデリングのように、バックアップキーワードなしでインテントを検索します。
- NLUモデリングのように、事前のマッピングなしでエンティティ値を抽出します。
- 1 つの会話セッションで複数の会話トピックの切り替えを操作する。
LLM の詳細については、「 Large language models on the ServiceNow AI Platform®」を参照してください。
トピックディスカバリー
LLM トピックディスカバリーを使用すると、トピック作成者は、バックアップキーワードを使用して複雑な NLU モデルとインテントを作成して維持する必要がなくなります。LLM が面倒な作業をすべて処理してくれます。唯一の要件は、仮想エージェントデザイナー の [プロパティ] タブにある堅牢で分かりやすい言語のトピック説明です。LLM はこの説明を使用して、ユーザーの発言に最適なトピックを見つけます。一致する可能性のあるものが複数ある場合は、選択できるトピックのリストがユーザーに表示されます。
たとえば、ユーザーが 仮想エージェント にライドシェア料金の計算を依頼した場合、LLM はユーザーの発言を、ヒントを使用してライドシェアを計算できる既存のトピックと照合します。
エンティティ抽出
LLM トピックでは、LLM は、発話に要求を満たすための情報があるかどうかを判断するために必要なすべての情報を持っています。NLUモデルとは異なり、エンティティをユーザー入力ノードに関連付けたり、ノードレス NLU エンティティを入力変数としてトピックに追加したりする必要はありません。LLM は、ユーザーの意図に最も近いエンティティを見つけるだけです。
トピックの切り替え
LLM を使用すると、 NLU トピックに比べてトピックの切り替えが迅速かつ簡単になります。LLM は、自然言語で作成されたインテントを変更する要求を処理し、適切なトピックをアクティブ化します。
たとえば、携帯電話を要求して会話を開始した場合、最初に注文をキャンセルしたり、会話を再開したりする必要はありません。代わりに、 仮想エージェント にラップトップの注文を依頼できます。 仮想エージェント すぐに携帯電話のトピックからラップトップのトピックに切り替えます。トピックの切り替えはクエリ中に実行できますが、カタログ注文フロー内では実行できません。
別の例としては、ユーザーが気軽な質問をしたり、雑談をしたりする場合があります。質問は元の要求とは無関係である可能性があります。雑談トピックを作成したり、雑談フィルターを設定したりして、仮想エージェントが切り替えられたトピックに適切な会話を照合して開始できるようにすることができます。詳細については、「雑談トピックの作成」と「Configure small talk filters」を参照してください。