Séparation des actifs IA : examen
La séparation des systèmes, modèles et ensembles de données d’IA permet de garantir que les exigences de gouvernance, de risque et de conformité sont prises en compte tout au long de l’évaluation, de la préparation et de la mise hors service des actifs IA, y compris l’évaluation de l’impact, la gestion des risques résiduels, la conservation de la documentation, les décisions de traitement des données et la traçabilité des audits.
Comment la gestion du départ est gérée entre et Risque et conformité de l'IATour de contrôle IA
La séparation des modèles et des ensembles de données d’IA implique à la fois des activités de gouvernance et des actions techniques de cycle de vie. Ces responsabilités sont généralement partagées entre Risque et conformité de l'IA (AIRC) et Tour de contrôle IA (AICT), chaque produit abordant différents aspects du processus de gestion du départ.
Au cours de la gestion du départ, l’examen de la gouvernance peut inclure l’évaluation de l’incidence de la mise hors service d’un actif IA sur les utilisateurs, les processus business et les systèmes dépendants, ainsi que la pertinence de poursuivre l’utilisation, la réutilisation ou la mise hors service de modèles ou d’ensembles de données connexes.
Les évaluations effectuées pendant la gestion du départ visent à confirmer que les obligations de gouvernance associées à l’actif d’IA sont entièrement remplies avant le retrait, plutôt qu’à introduire de nouvelles obligations de surveillance continue ou après le départ à la retraite.
AIRC est utilisé pour effectuer et documenter les examens de gouvernance associés à la gestion du départ, tandis qu’AICT peut être utilisé pour gérer les workflows de cycle de vie technique pour les actifs IA en fonction des résultats de gouvernance. La gestion du départ est initiée lorsqu’un propriétaire d’actif IA [sn_ai_asset_mgmt.ai_asset_owner] ou un administrateur [sn_ai_governance_ai_steward] soumet une demande de gestion du départ dans AICT, qui dirige ensuite les activités d’examen de la gouvernance dans AIRC. Pour plus d'informations, voir Create offboarding requests for AI assets
Lorsqu’un modèle ou un ensemble de données d’IA est utilisé par un ou plusieurs systèmes d’IA gouvernés, l’examen de la gestion du départ peut inclure l’évaluation des dépendances en aval afin de s’assurer que les systèmes impactés sont mis à jour, corrigés ou mis hors service selon les besoins avant que l’actif ne soit entièrement mis hors service.
Les activités de gouvernance associées à la gestion du départ se concentrent sur l’évaluation des impacts commerciaux, juridiques, éthiques et sur la sécurité, tandis que les actions techniques du cycle de vie se concentrent sur la désactivation de l’accès, la suppression des dépendances opérationnelles et la mise à jour des enregistrements d’inventaire de l’IA en fonction des résultats de gouvernance terminés.
Les activités de gouvernance peuvent également inclure l’évaluation de la persistance des risques juridiques, éthiques, de sécurité ou de conformité après le retrait et la documentation de la manière dont ces risques résiduels sont atténués, acceptés ou officiellement fermés.
Quelles sont les tâches terminées pendant Risque et conformité de l'IA la gestion du départ ?
AIRC prend en charge la partie gouvernance de la séparation des actifs IA. Grâce à AIRC, les organisations examinent et documentent les considérations relatives aux risques, à l’impact et à la conformité liées à la mise hors service des modèles et des ensembles de données d’IA. Lorsque des modèles ou des ensembles de données d’IA sont associés à un système d’IA gouverné, les activités de séparation peuvent être examinées et suivies au niveau du système d’IA afin de garantir une couverture complète de la gouvernance.
Pour en savoir plus sur le cycle de vie de la gouvernance de l’IA et sur la façon dont la séparation s’inscrit dans le cycle de vie plus large des actifs IA, consultez Cycle de vie de gouvernance IA et AI asset lifecycle.
Dans AIRC, les praticiens peuvent effectuer des activités telles que l’examen des classifications des risques réglementaires, la réalisation ou la mise à jour des évaluations d’impact et la réalisation d’examens de conformité ou d’alignement des politiques dans le cadre du cycle de vie de l’IA.
Pour plus d'informations, consultez Réaliser une évaluation de l’impact sur un cas d’utilisation de l’IA et Lancer l’évaluation des risques sur l’actif IA.
L’AIRC conserve les enregistrements de gouvernance liés aux actifs d’IA, y compris les évaluations, les contrôles, les problèmes et les attestations. Ces enregistrements restent disponibles après la mise hors service d’un actif IA, ce qui permet de se préparer à l’audit et de traçabilité historique.
Les risques et les problèmes identifiés lors de l’examen de la gestion du départ peuvent être suivis et officiellement fermés dans AIRC, ce qui permet de s’assurer que les problèmes de gouvernance sont résolus avant la mise hors service d’un actif IA.
La gestion du départ est considérée comme terminée lorsque les examens de gouvernance requis sont terminés, que les problèmes connexes sont résolus ou officiellement acceptés et que l’état du cycle de vie de l’actif IA est mis à jour sur Mis hors service.
Pour en savoir plus sur la résolution des problèmes de gouvernance avant la mise hors service d’un actif, reportez-vous à la rubrique Corriger un problème dans Risque et conformité de l'IA.
Comportement d’évaluation pendant la gestion du départ
Pendant la gestion du départ, les activités de gouvernance sont Risque et conformité de l'IA pilotées par la classification des risques, l’état de l’évaluation et l’état du cycle de vie. Les catégories de système ou de modèle d’IA sélectionnées lors de l’admission (par exemple, agentique ou génératif) sont capturées en tant que métadonnées descriptives uniquement et ne modifient pas la création de l’évaluation, la notation ou le comportement du cycle de vie.
Des évaluations de l’impact ou des risques peuvent être créées pendant la gestion du départ lorsque l’examen de gouvernance détermine qu’une évaluation supplémentaire est nécessaire en fonction de la classification des risques de l’actif et de la couverture d’évaluation existante. Si une évaluation active du même type existe déjà, une évaluation en double n’est pas créée.
Lorsque la séparation est terminée et que l’état du cycle de vie de l’actif IA est mis à jour sur mis hors service, toutes les évaluations de gouvernance ouvertes restantes associées à l’actif sont fermées ou annulées conformément aux règles de gouvernance configurées. Les enregistrements historiques restent disponibles pour l’audit et la traçabilité.
L’examen de la gestion du départ peut également confirmer que la documentation, les résultats d’évaluation et les décisions de traitement des données nécessaires à des fins réglementaires, d’audit ou d’enquête sont conservés avant la mise hors service de l’actif IA.
Conseils d’évaluation pendant la séparation des actifs IA
Pendant la gestion du départ, les organisations peuvent utiliser différents types d’évaluations Risque et conformité de l'IA pour appuyer les décisions de gouvernance liées à la mise hors service de systèmes, de modèles ou d’ensembles de données d’IA. Les évaluations spécifiques prises en compte dépendent de la classification des risques de l’actif, du contexte d’utilisation et de la couverture de gouvernance existante.
Les évaluations d’impact sont couramment utilisées lorsque les décisions de gestion du départ nécessitent d’évaluer l’incidence de la mise hors service d’un actif IA sur les utilisateurs, les processus business, les systèmes en aval ou les workflows de prise de décision. Ces évaluations permettent de déterminer si la mise hors service présente des impacts opérationnels, éthiques ou de sécurité qui doivent être traités avant la mise hors service de l’actif.
Les évaluations des risques peuvent être utilisées pendant la gestion du départ pour évaluer les risques résiduels associés à un actif d’IA, y compris les risques juridiques, éthiques ou de conformité qui peuvent persister après la fin de l’utilisation opérationnelle. Les évaluations des risques peuvent également être utilisées pour confirmer que les risques précédemment identifiés sont correctement atténués, acceptés ou officiellement fermés avant la mise hors service.
Des examens de conformité ou d’alignement des politiques peuvent être effectués pour les actifs d’IA soumis à des exigences réglementaires ou de gouvernance interne afin de confirmer que les obligations applicables ont été satisfaites avant la finalisation de la séparation.
La création et le séquençage des tâches d’évaluation liées à la gestion du départ sont gérés par le biais Tour de contrôle IA de , tout en Risque et conformité de l'IA fournissant le contexte de gouvernance, les dossiers d’évaluation et la traçabilité des audits nécessaires pour appuyer les décisions de gestion du départ.
Pour plus d’informations sur l’exécution de types d’évaluation spécifiques, voir Réaliser une évaluation de l’impact sur un cas d’utilisation de l’IA, Effectuer des évaluations des risques sur les systèmes d’IALancer l’évaluation des risques sur l’actif IA, et Lancer une évaluation des risques sur les risques de l’actif IA.