Un modèle d’IA est conçu, déployé et surveillé conformément à des cadres de gouvernance structurés. Ces cadres de travail garantissent l’utilisation éthique du modèle d’IA, la conformité réglementaire et l’atténuation des risques tout au long de son cycle de vie.

Un modèle d’IA est développé en s’entraînant sur de grands ensembles de données à l’aide de l’apprentissage automatique ou d’autres techniques d’IA. Le modèle apprend les relations avec les données pour généraliser les résultats pour de nouvelles entrées invisibles. Les modèles d’IA sont utilisés dans des applications telles que le traitement des langues, la reconnaissance d’images et les systèmes de recommandation.

Chaque modèle effectue une tâche définie comme la classification, la régression ou la génération de contenu. Leur exactitude, leur fiabilité et leur robustesse doivent être évaluées dans des scénarios réels. Les modèles sont également évalués pour des risques tels que les biais, l’opacité et les comportements involontaires.

Une validation régulière et un suivi des performances garantissent l’efficacité et la stabilité continues du modèle. Une documentation claire permet de maintenir la transparence et de prendre des décisions éclairées. Le respect des directives éthiques et des normes juridiques est essentiel tout au long du cycle de vie du modèle.

L’image suivante montre la page de vue d’ensemble d’un modèle d’IA.

Le score de risque agrégé consolide les risques individuels tels que les biais, la dérive et la sécurité, afin d’informer les profils de risque d’IA au niveau du département ou de l’entreprise, permettant ainsi une visibilité et une surveillance de haut niveau. Par exemple, plusieurs modèles d’IA orientés client présentant des signes de biais peuvent entraîner des risques organisationnels. Le score de risque agrégé permet à l’équipe Risque et conformité de l'IA d’obtenir une vue consolidée des risques liés à l’IA sur plusieurs modèles, équipes et unités business, allant au-delà des évaluations des risques fragmentées.