Onglet Sécurité et confidentialité dans Tour de contrôle IA
Examinez les mesures de sécurité des actifs IA telles que les problèmes d’accès, les agents IA dormants et privilégiés, et mappez les relations de vos ServiceNow agents, workflows agentiques et outils.
L’onglet Tour de contrôle IASécurité et confidentialité de propose une vue d’ensemble basée sur un tableau de bord de vos mesures de sécurité des actifs IA. Le tableau de bord contient plusieurs visualisations détaillant les mesures de sécurité des actifs IA. En plus de suivre les mesures, l’onglet Sécurité et confidentialité contient la carte d’accès, un outil qui fournit une visualisation par graphique de nœuds des relations entre vos agents, vos workflows agentiques et vos ServiceNow outils. Vous pouvez utiliser la carte pour examiner plus en détail les relations entre vos agents IA et vos workflows.
ServiceNow Aperçus IA
ServiceNow Les aperçus IA nécessitent que la compétence Outil de synthèse de la posture de Now Assist sécurité AICT soit activée. Pour en savoir plus, consultez Activer une compétence Now Assist.
- Points positifs : paramètres et fonctionnalités activés qui aident à améliorer votre posture de sécurité.
- Domaines à surveiller : Articles à risque faible à moyen à résoudre.
- Observations à impact élevé : éléments à haut risque à résoudre.
- Mesures : Mesures suggérées pour aborder les domaines à surveiller et les observations à fort impact.
Carte d'accès
Si une icône d’avertissement apparaît sur un agent, cet agent peut rencontrer des problèmes d’accès . Sélectionnez l’icône d’avertissement pour afficher des détails tels que le workflow, l’agent et l’outil associés au problème d’accès.
Score de sécurité de l’actif IA
- Actifs IA ayant un impact sur votre score
- Pour afficher plus d’informations sur votre score, sélectionnez Voir les détails dans l’onglet Sécurité et confidentialité . Une vue de liste affiche les actifs IA qui sont inclus dans le calcul de votre score de sécurité des actifs IA. Votre score est la moyenne de tous les actifs IA gérés répertoriés. Les utilisateurs doivent gérer et examiner activement leurs actifs d’agent et ne pas se fier uniquement à ce score de sécurité des actifs IA.
Accès
- Problèmes d'accès
-
Le graphique Problèmes d’accès affiche la proportion d’agents IA susceptibles de rencontrer des problèmes liés à l’accès et répertorie les principaux systèmes IA présentant des problèmes d’accès. Les agents IA ayant des problèmes d’accès peuvent ne pas être en mesure de terminer leurs workflows en raison du problème d’accès. Passez la souris sur une partie du graphique pour voir la proportion et le nombre exacts d’agents.
Vous pouvez créer des tâches de sécurité des actifs IA directement à partir de la vue de liste en sélectionnant Créer une tâche IA. Consultez toutes les tâches de sécurité des actifs IA actives dans Actifs IA dans la section Tâche IA. L’accès à cette section requiert le rôle sn_vsc.task_manager.
Les tâches de sécurité des actifs IA résolues qui datent de plus de 180 jours sont archivées. Les jours d’archivage peuvent être configurés dans les propriétés système.
- Agents IA privilégiés
-
Le graphique en aires montre les agents IA avec des autorisations élevées, tels qu’un agent avec des autorisations d’administrateur ou d’administrateur de sécurité qui peuvent effectuer des actions critiques. Certains workflows nécessitent que les agents IA disposent d’autorisations élevées pour être terminés. Passez la souris sur une partie du graphique pour voir le nombre exact d’agents privilégiés ce jour-là.
Pour afficher AWS les mesures de l’agent, filtrez les mesures en sélectionnant AWS Bedrock dans la liste déroulante du fournisseur. Vous devez disposer d’un AWS compte configuré pour votre instance et de la Now Assist compétence Vérificateur de politique privilégié AiSP AWS IAM. Pour en savoir plus, consultez Connexions IA et activez une compétence Now Assist.
Vous pouvez créer des tâches de sécurité des actifs IA directement à partir de la vue de liste en sélectionnant Créer une tâche IA. Consultez toutes les tâches de sécurité des actifs IA actives dans Actifs IA dans la section Tâche IA. (Rôle requis : sn_vsc.task_manager.)
Les tâches de sécurité des actifs IA résolues qui datent de plus de 180 jours sont archivées. Les jours d’archivage peuvent être configurés dans les propriétés système.
- Systèmes IA dormants
-
Le graphique en aires montre les agents IA qui n’ont pas été actifs depuis plus de 90 jours. Examinez les autorisations de l’agent IA dormant pour réduire le risque de sécurité. Passez la souris sur une partie du graphique pour voir le nombre exact de systèmes d’IA dormants pour ce jour-là.
Pour afficher AWS les mesures de l’agent, filtrez les mesures en sélectionnant AWS Bedrock dans la liste déroulante du fournisseur. Vous devez avoir un AWS compte configuré pour votre instance. Pour en savoir plus, consultez Connexions IA.
Lorsqu’un agent IA devient dormant, une tâche de sécurité des actifs IA est créée automatiquement pour rationaliser votre workflow et résoudre rapidement les problèmes. La tâche de sécurité des actifs IA est affectée au propriétaire de l’agent. Consultez toutes les tâches de sécurité des actifs IA actives dans Actifs IA dans la section Tâche IA.
Les tâches de sécurité des actifs IA résolues qui datent de plus de 180 jours sont archivées. Les jours d’archivage peuvent être configurés dans les propriétés système.
ServiceNow Accès de l’instance aux serveurs MCP
MCP les mesures d’accès au serveur incluent les MCP interactions client-serveur acheminées via AI Gateway de cette instance. Les interactions qui contournent la passerelle IA ou qui sont acheminées via la passerelle IA d’une autre instance ne sont pas incluses.
- Clients se connectant aux MCP serveurs
- Le graphique Clients se connectant aux MCP serveurs affiche les 10 principaux clients (ServiceNow agents IA ou clients tiers MCP enregistrés) se connectant aux MCP serveurs via AI Gateway de cette instance. MCP les mesures d’accès au serveur sont capturées pour toutes les interactions client-serveur acheminées via AI Gateway. Pour afficher plus de clients, sélectionnez le graphique pour explorer les données.
- Tentatives d’accès autorisé aux MCP serveurs
- Le graphique Tentatives d’accès autorisées aux MCP serveurs montre les tentatives d’accès réussies des MCP clients aux MCP serveurs via AI Gateway de cette instance. Les clients comprennent des ServiceNow agents IA et des clients tiers MCP enregistrés. Pour afficher plus de tentatives, sélectionnez le graphique pour explorer les données.
- Échecs de tentatives d’accès aux MCP serveurs
- Le graphique Échecs de tentatives d’accès aux MCP serveurs affiche les tentatives d’accès infructueuses des MCP clients aux MCP serveurs via AI Gateway de cette instance. Les clients comprennent des ServiceNow agents IA et des clients tiers MCP enregistrés. Pour afficher plus de données, sélectionnez le graphique pour explorer les données.
Garde-fous
- Injection d'invite
- Ces graphiques montrent les données d’injection d’invite fournies par Gardien Now Assist. Pour afficher les données, activez-la Gardien Now Assist pour votre instance. Pour en savoir plus, consultez Gardien Now Assist Analytique.
- Contenu offensant
- Ces graphiques montrent les données de contenu offensant fournies par Gardien Now Assist. Pour afficher les données, activez-la Gardien Now Assist pour votre instance. Pour en savoir plus, consultez Gardien Now Assist Analytique.
- Données sensibles
-
Le graphique Données sensibles détectées montre les données sensibles qui ont été identifiées dans les réponses des utilisateurs aux Now Assist invites. L’exposition des données sensibles est limitée au LLM de votre instance.
Le graphique Données sensibles anonymisées affiche les données d’invite qui répondent aux schémas de données configurés. Ces données ont été anonymisées en fonction de la configuration du modèle dans Schémas de données de configuration dans Confidentialité des données.
- Détection d’incident d’intégrité des données
- Le graphique de détection des incidents d’intégrité des données est conçu pour aider à montrer les violations potentielles de certaines politiques de garde-fou LLM. Nous analysons la sortie de chacune de ses tâches de manière déterministe pour détecter les violations potentielles. Vous pouvez choisir d’inclure ou d’omettre ces politiques. Pour plus d’informations sur les politiques et la configuration des données de ce graphique, reportez-vous à la section Partage des données, traitement des débordements de données et sécurité et confidentialité dans Tour de contrôle IA.
- Écart de l’objectif de l’agent
- Le graphique des écarts de l’objectif de l’agent est conçu pour aider à identifier quand les agents IA peuvent s’être écartésde leur rôle ou de leur objectif prévu pendant l’exécution. Les écarts comprennent, sans s’y limiter, les actions non autorisées ou les tentatives d’injection d’invite. Les données sont collectées en analysant l’historique des exécutions de l’agent, puis évaluées par l’IA. Vous pouvez choisir les modèles de données à inclure ou à omettre. En raison de la nature probabiliste de l’analyse par modèle de données, il se peut que toutes les occurrences ne soient pas identifiées. Pour plus d’informations sur la configuration des données de ce graphique, reportez-vous à la section Partage des données, traitement des débordements de données et sécurité et confidentialité dans Tour de contrôle IA.
- Sortie de l'agent IA avec PII détectée
- La sortie de l’agent IA avec le graphique PII détecté indique quand la sortie LLM des agents contient potentiellement des informations personnellement identifiables (PII). Les données sont collectées en analysant la sortie LLM pour détecter les schémas de données sensibles PII spécifiés et Confidentialité des données les schémas PII supplémentaires. Il s’agit des schémas de données sensibles par défaut Confidentialité des données : carte de crédit, date de naissance, e-mail, numéro de sécurité sociale, numéro d’acheminement ABA de la banque américaine et numéro de téléphone américain.
Nous analysons la sortie de chacune de ses tâches de manière déterministe en fonction des modèles largement connus répertoriés pour détecter les vulnérabilités de sécurité potentielles. Par exemple, numéro de téléphone, numéro de carte de crédit ou numéro de sécurité sociale aux États-Unis.
Vous pouvez choisir d’inclure ou d’omettre les schémas PII potentiels à détecter. Pour plus d’informations sur la configuration des données de ce graphique, reportez-vous à la section Partage des données, traitement des débordements de données et sécurité et confidentialité dans Tour de contrôle IA. - Détection d’injection de sortie agentique
- Le graphique de détection des injections de sortie agentique indique quand la sortie LLM des agents contient potentiellement des schémas connus vulnérables à la sécurité. Il s’agit des schémas Eval-Function-Audit, Html-Tag-injection, Non-printable-class, Script-Tag-injection, SQL-query-injection et Terminal-RCE de la table sn_data_discovery_data_pattern de l’application Sécurité et confidentialité IA.
Nous analysons la sortie de chacune de ses tâches de manière déterministe en fonction des schémas répertoriés pour détecter les vulnérabilités de sécurité potentielles. Par exemple, les balises HTML ne doivent pas avoir de scripts associés pour les attaques de script intersite (XSS), ou les requêtes SQL empilées pourraient entraîner des attaques par injection SQL.
Vous pouvez choisir d’inclure ou d’omettre les schémas potentiels à détecter. Pour plus d’informations sur la configuration des données de ce graphique, reportez-vous à la section Partage des données, traitement des débordements de données et sécurité et confidentialité dans Tour de contrôle IA.Remarque :Ces schémas vulnérables à la sécurité évoluent constamment, de sorte que tous les schémas peuvent ne pas être identifiés.