メッセージ全体がレンダリングされるのを待つのではなく Now Assist LLM チャット会話の応答ストリームをリアルタイムで作成します。ストリーミングを使用すると、LLM からの応答をすぐに送信して、要求に返信する際のパフォーマンスを向上させることができます。

LLM 応答メッセージストリーム 合成された応答 Q&A ナレッジベースの応答テキストは、エンドユーザーに一度にすべて表示されるのではなく、生成されたとおりに回答します。応答は、一度に 1 文字または 1 単語ずつストリーミングされます。エンドユーザーがチャットに質問または要求を入力すると、応答がストリーミングされ始め、メッセージ全体が配信された後でストリーミングが停止します。応答の生成中は、さまざまな読み込みメッセージ ( 回答の生成など) が表示されます。読み込みとレイテンシのフィードバックメッセージの詳細と例については、「 仮想エージェントのレイテンシフィードバック」を参照してください。アニメーションのスパークル 、応答の生成中に表示されます。アニメーションのスパークル 応答が完全にロードされると、アイコンが 静的ブランド 仮想エージェント アイコンに変わります。

ヒント:

ストリーミング中にアニメーションのスパークルアイコンをオフにする場合は、システムプロパティ [sys_properties] テーブルで sn_nowassist_va.nass_animated_avatar_enabledを false に設定します。アニメーションのスパークルアイコンがオフの場合、ロードメッセージの後にアニメーションの省略記号 このシステムプロパティの詳細については、「Available system properties」を参照してください。

[ さらに表示] リンクは、6 行のテキストがストリーミングされた後に表示されます。[ さらに表示] を選択すると、メッセージ全体が配信されるまで、メッセージの残りの部分がストリーミングされます。

ストリーミングを有効にするには、仮想エージェントガイド付きセットアップでNow Assist中に応答をストリーミングするように AI アシスタントを構成します。詳細については、「仮想エージェントでの Now Assist の構成」を参照してください。