Partage de données

Par défaut, le partage de données est actif. Vous pouvez désactiver Tour de contrôle IA et partager vos données avec pour ServiceNow améliorer la précision de l’IA, améliorer l’expérience utilisateur et mieux comprendre les besoins de l’entreprise.

Le partage de données permet d’améliorer ServiceNow les produits, mais si vous choisissez de vous désabonner du ServiceNow programme de partage de données, vous ne pourrez plus contribuer à l’amélioration ServiceNow des produits d’IA.

Pour plus d’informations sur l’annulation du partage de données, consultez la section Refuser le partage de données.

Traitement des débordements de données

Par défaut, tout le Now Assist trafic est géré au sein ServiceNow des centres de données. En cas de pics de trafic, le système redirige automatiquement vers Microsoft Azure les centres de données pour maintenir les performances. Vous pouvez désactiver cette fonctionnalité pour conserver tout le Now Assist trafic exclusivement dans ServiceNow les centres de données. Par défaut, le traitement du débordement de données est inactif.

Sécurité et confidentialité

Détection d’incident d’intégrité des données

Ces paramètres de configuration contrôlent le graphique de détection des incidents d’intégrité des données, qui est conçu pour aider à afficher les violations potentielles de certaines politiques de garde-fou LLM dans les réponses LLM. Pour afficher les données de ce graphique sur le tableau de bord, sélectionnez Configurer, puis sélectionnez Actif. Si vous souhaitez arrêter de collecter des données pour le graphique, désélectionnez Actif.

Remarque :

Si vous désactivez le graphique, les données passées s’affichent sur le graphique pendant 90 jours.

Vous pouvez configurer ces paramètres :

• Catégories – Politiques de sécurité et de modération de contenu regroupées en catégories qui reflètent les pratiques du secteur qui s’alignent sur les 10 principaux risques et atténuations de l’OWASP pour les LLM et les applications d’IA générative et la spécification du modèle OpenAI.
• Taux d’échantillonnage – Le pourcentage de transactions qui sont évaluées. La sélection d’un taux inférieur à 100 % entraîne moins d’appels IA, mais potentiellement moins de données précises.
• Nombre maximal d’appels de compétences par exécution : quantité d’utilisation de l’IA par appel. Le minimum est de 10 appels ; La valeur par défaut est de 1 000 appels. La saisie d’un nombre inférieur entraîne moins d’appels IA, mais potentiellement moins de données précises.
• Analyse simple ou multiple : l’analyse unique utilise le LLM par défaut pour déterminer si la sortie ou le comportement du modèle enfreint des politiques de sécurité prédéfinies. L’analyse multiple utilise les résultats de trois LLM ou plus qui ServiceNow prennent en charge pour effectuer une détermination, en utilisant le résultat majoritaire des LLM. L’analyse multiple nécessite un nombre impair de LLM.

Écart de l’objectif de l’agent

Ces paramètres de configuration contrôlent le graphique des écarts de l’objectif de l’agent, qui indique quand les agents IA peuvent s’écarter du rôle ou de l’objectif prévu. Par exemple, les actions non autorisées ou les tentatives d’injection d’invite. Pour afficher les données de ce graphique sur le tableau de bord, sélectionnez Configurer, puis sélectionnez Actif. Si vous souhaitez arrêter de collecter des données pour le graphique, désélectionnez Actif.

Remarque :

Si vous désactivez le graphique, les données passées s’affichent sur le graphique pendant 90 jours. En raison de la nature probabiliste du modèle de données, il se peut que toutes les occurrences ne soient pas identifiées.

Vous pouvez configurer ces paramètres :

• Taux d’échantillonnage – Le pourcentage de transactions qui sont évaluées. La sélection d’un taux inférieur à 100 % entraîne moins d’appels IA, mais potentiellement moins de données précises.
• Nombre maximal d’appels de compétences par exécution : quantité d’utilisation de l’IA par appel. Le minimum est de 10 appels ; La valeur par défaut est de 1 000 appels. La saisie d’un nombre inférieur entraîne moins d’appels IA, mais potentiellement moins de données précises.
• Analyse simple ou multiple : l’analyse unique utilise le LLM par défaut pour déterminer si la réponse de l’agent IA ou de la compétence diverge du résultat attendu. L’analyse multiple utilise les résultats de 3 LLM ou plus pour prendre une décision, en utilisant le résultat majoritaire des LLM. L’analyse multiple nécessite un nombre impair de LLM.

Filtrage des résultats

Ces paramètres de configuration contrôlent la sortie de l’agent IA avec des graphiques de détection des PII détectées et de l’injection de sortie agentique, qui indiquent quand la sortie LLM des agents contient des PII potentielles ou des schémas potentiellement vulnérables à la sécurité. Pour afficher les données de ces graphiques sur le tableau de bord, sélectionnez Configurer, sélectionnez Actif, puis sélectionnez un paramètre pour les données à collecter. Si vous souhaitez arrêter de collecter des données pour les graphiques, désélectionnez Actif.

Remarque :

Si vous désactivez les graphiques, les données passées collectées s’affichent sur les graphiques pendant 90 jours.

Vous pouvez configurer ces paramètres :

• Vulnérabilité de sécurité de sortie : collecter et afficher les données dans le graphique de détection d’injection de sortie agentique. Les données sont collectées en analysant la sortie LLM pour détecter les schémas vulnérables potentiels connus et les vecteurs d’attaque correspondants potentiels. Par exemple, les balises HTML ne doivent pas avoir de scripts associés pour les attaques de script intersite (XSS), ou les requêtes SQL empilées pourraient entraîner des attaques par injection SQL.
• Sortie PII étendue : collectez plus d’occurrences de données PII potentielles et affichez-les dans la sortie de l’agent IA avec le graphique PII détecté. Les données sont collectées en analysant la sortie LLM pour détecter d’autres schémas de données PII potentiels au-delà de ceux spécifiés dans Confidentialité des données. Ces schémas de données PII comprennent le permis de conduire américain en Californie, le numéro de passeport américain et le numéro d’identification du véhicule.
• Violation PII de sortie : collectez et affichez les données dans la sortie de l’agent IA avec le graphique PII détecté. Les données sont collectées en analysant la sortie LLM pour détecter d’éventuels schémas de données sensibles PII spécifiés dans .Confidentialité des données Par exemple, numéro de téléphone américain ou numéro de carte de crédit.

Saisie et anonymisation de données sensibles

Cette section montre les schémas de données activés pour Confidentialité des données détecter et anonymiser les informations dans les invites LLM. Utilisez cette vue comme référence rapide lors du dépannage des graphiques des données sensibles détectées et des données sensibles anonymisées. Cette fonctionnalité nécessite l’installation du module d’extension Confidentialité des données. Pour plus d’informations sur le mode d’envoi et de stockage des données, consultez Politique d’utilisation des données utilisateur pour Now Assist.

Poids du score

Ce paramètre contrôle la pondération des catégories de garde-fous LLM qui composent le score. Vous pouvez modifier les pondérations par défaut ou supprimer des catégories du score en les désactivant. La formule de score est une moyenne sur tous les actifs IA gérés.