Un ensemble de données est une collection organisée de données structurées utilisées pour développer, déployer et surveiller des systèmes d’IA conformément aux politiques, réglementations et normes éthiques de l’organisation.

L’ensemble de données sur l’IA prend en charge les objectifs de gouvernance en capturant des informations clés sur les modèles d’IA, notamment les évaluations des risques, l’état de conformité, la propriété, les pistes d’audit et les mesures de performance. Il permet également une surveillance, une responsabilisation et une prise de décision efficaces au sein de l’organisation. La qualité et la composition d’un ensemble de données ont un impact direct sur les performances, l’équité et la précision du modèle d’IA. Des ensembles de données bien organisés permettent de vérifier que les modèles apprennent des schémas significatifs et génèrent des sorties fiables dans des scénarios réels.

Chaque ensemble de données doit être évalué pour en vérifier l’exhaustivité, l’exactitude et la pertinence par rapport au cas d’utilisation prévu. Les biais dans les ensembles de données peuvent conduire à des prédictions injustes ou inexactes du modèle et doivent être identifiés et atténués. Le suivi de la traçabilité des données permet de vérifier la traçabilité, la transparence et la responsabilité dans la façon dont les ensembles de données sont utilisés et maintenus.

Les ensembles de données doivent être conformes aux réglementations en matière de protection des données, y compris les lois sur la confidentialité et les politiques organisationnelles de traitement des données. Des examens et des mises à jour réguliers permettent de maintenir la qualité des ensembles de données et de refléter l’évolution des normes de données ou des besoins de l’entreprise.

L’image suivante montre la page de vue d’ensemble des jeux de données.

Le score de risque agrégé consolide les risques individuels tels que les biais, la dérive et la sécurité, afin d’informer les profils de risque d’IA au niveau du département ou de l’entreprise, permettant ainsi une visibilité et une surveillance de haut niveau. Par exemple, plusieurs modèles d’IA orientés client présentant des signes de biais peuvent entraîner des risques organisationnels. Le score de risque agrégé permet à l’équipe Risque et conformité de l'IA d’obtenir une vue consolidée des risques liés à l’IA sur plusieurs modèles, équipes et unités business, allant au-delà des évaluations des risques fragmentées.