Les réponses synthétisées sont diffusées en temps réel pour Now Assist les conversations de messagerie instantanée LLM au lieu d’attendre que l’intégralité du message soit rendu. La diffusion en continu permet d’envoyer immédiatement les réponses du LLM afin d’améliorer les performances lors de la réponse aux demandes.

Flux de messages de réponse LLM pour les réponses synthétisées car ils sont générés au lieu d’apparaître en une seule fois aux utilisateurs finaux. Les réponses s’affichent dans une lettre ou un mot à la fois. Une fois que les utilisateurs finaux ont entré une question ou une demande dans la messagerie instantanée, les réponses synthétisées commencent à affluer et s’arrêtent une fois que le message complet a été remis. Pendant la génération de la réponse, divers messages de chargement (tels que Génération d’une réponse) s’affichent. Pour plus d’informations et des exemples de chargement de messages, reportez-vous à la section Commentaire sur la latence dans Agent virtuel. Une étincelle animée L’icône s’affiche pendant la génération de la réponse. L’étincelle animée L’icône se transforme en icône de marque Agent virtuel statique une fois la réponse complètement chargée.

Conseil :

Si vous souhaitez désactiver l’icône d’étincelle animée pendant la diffusion, définissez-la sn_nowassist_va.nass_animated_avatar_enabled sur faux dans la table Propriétés système [sys_properties]. Lorsque l’icône d’étincelle animée est désactivée, les messages de chargement sont suivis de points de suspension animés Pour en savoir plus sur cette propriété système, reportez-vous à la section Available system properties.

Pour la messagerie instantanée standard, le lien Afficher plus s’affiche après la diffusion de six lignes de texte. La sélection de Afficher plus diffuse le reste du message jusqu’à ce que le message complet soit remis.

Pour un chat amélioré, la diffusion s’applique à la réponse synthétisée où qu’elle s’applique. Une fois la diffusion terminée, l’ensemble de la réponse synthétisée s’affiche, plutôt qu’une réponse tronquée, dans la fenêtre de messagerie instantanée ou la messagerie instantanée améliorée. La réponse synthétisée peut être diffusée dans la fenêtre de messagerie instantanée ou sur la page des résultats de recherche du portail, ainsi que dans l’onglet Now Assist de la messagerie instantanée améliorée.

Pour activer la diffusion, configurez vos assistants IA pour diffuser les réponses pendant la Now AssistAgent virtuel configuration guidée. Pour plus d'informations, consultez Vue d’ensemble des assistants de configuration.