Un système d’IA est une solution alimentée par l’IA qui est développée, déployée et gérée dans un cadre de gouvernance formel. Ce cadre de travail garantit que le système fonctionne de manière responsable, conforme et consciente des risques tout au long de son cycle de vie.

Un système d’IA fonctionne dans l’environnement numérique ou opérationnel d’une organisation pour soutenir les activités commerciales. Il permet l’automatisation, améliore la prise de décision basée sur les données et améliore l’efficacité globale des processus. Le système comprend des composants tels que des modèles d’apprentissage automatique, des moteurs de traitement du langage naturel ou des outils de vision par ordinateur.

Ces composants sont souvent pris en charge par des ensembles de données, des algorithmes et une infrastructure informatique. Ensemble, ils permettent au système d’analyser les données, de reconnaître les modèles et de générer des résultats avec un minimum d’intervention humaine. Chaque système d’IA est soumis à un processus d’évaluation structuré. Ce processus évalue les risques potentiels liés à la fonctionnalité, à la sécurité et à l’impact sociétal. Il vérifie également la conformité aux réglementations, normes du secteur et politiques de gouvernance interne en vigueur.

Les cadres de gouvernance sont appliqués pour gérer le système d’IA tout au long de son cycle de vie. Ils veillent à ce que le système fonctionne en toute sécurité et fournisse des résultats prévisibles, explicables et dignes de confiance. Les principes éthiques tels que l’équité, la responsabilité et la transparence sont appliqués par des contrôles et des mécanismes de surveillance définis. Une surveillance régulière favorise une utilisation responsable de l’IA et réduit le risque de conséquences imprévues.

L’image suivante montre la page de vue d’ensemble d’un système d’IA.

Le score de risque agrégé consolide les risques individuels tels que les biais, la dérive et la sécurité, afin d’informer les profils de risque d’IA au niveau du département ou de l’entreprise, permettant ainsi une visibilité et une surveillance de haut niveau. Par exemple, plusieurs modèles d’IA orientés client présentant des signes de biais peuvent entraîner des risques organisationnels. Le score de risque agrégé permet à l’équipe Risque et conformité de l'IA d’obtenir une vue consolidée des risques liés à l’IA sur plusieurs modèles, équipes et unités business, allant au-delà des évaluations des risques fragmentées.

L’image suivante montre la section du score de risque agrégé :