Les réponses sont diffusées en temps réel pour Now Assist les conversations de messagerie instantanée LLM au lieu d’attendre que l’intégralité du message soit rendu. La diffusion en continu permet d’envoyer immédiatement des réponses de LLM afin d’améliorer les performances lors de la réponse aux demandes.

Flux de messages de réponse LLM pour les réponses synthétisées, les questions-réponses, les réponses de la base de connaissances au fur et à mesure qu’elles sont générées, au lieu que le texte de réponse apparaisse en une seule fois pour les utilisateurs finaux. Les réponses s’affichent dans une lettre ou un mot à la fois. Une fois que les utilisateurs finaux ont entré une question ou une demande dans la messagerie instantanée, les réponses commencent à affluer et s’arrêtent une fois que le message complet a été remis. Pendant la génération de la réponse, divers messages de chargement (tels que Génération d’une réponse) s’affichent. Pour plus d’informations et des exemples de messages de retour de chargement et de latence, reportez-vous à la section Rétroaction sur la latence dans Agent virtuel. Une étincelle animée L’icône s’affiche pendant la génération de la réponse. L’étincelle animée L’icône se transforme en icône de marque Agent virtuel statique une fois la réponse complètement chargée.

Conseil :

Si vous souhaitez désactiver l’icône d’étincelle animée pendant la diffusion, définissez-la sn_nowassist_va.nass_animated_avatar_enabled sur false dans la table Propriétés système [sys_properties]. Lorsque l’icône d’étincelle animée est désactivée, les messages de chargement sont suivis d’une Pour en savoir plus sur cette propriété système, reportez-vous à la section Available system properties.

Le lien Afficher plus s’affiche après la diffusion de six lignes de texte. La sélection de Afficher plus diffuse le reste du message jusqu’à ce que le message complet soit remis.

Pour activer la diffusion, configurez vos assistants IA pour diffuser les réponses pendant la Now AssistAgent virtuel configuration guidée. Pour plus d'informations, consultez Configurer Now Assist dans Agent virtuel.