データセットは、組織のポリシー、規制、倫理基準に沿って AI システムを開発、展開、監視するために使用される構造化データのキュレーションされたコレクションです。

AI データセットは、リスクアセスメント、コンプライアンスステータス、所有権、監査証跡、パフォーマンスメトリクスなど、AI モデルに関する重要な情報をキャプチャすることで、ガバナンス目標をサポートします。また、組織内での効果的な監視、説明責任、および意思決定を可能にします。データセットの品質と構成は、AI モデルのパフォーマンス、公平性、精度に直接影響します。適切にキュレーションされたデータセットは、モデルが意味のあるパターンを学習し、実際のシナリオで信頼性の高い出力を生成することを検証するのに役立ちます。

各データセットは、完全性、正確性、および目的のユースケースとの関連性について評価する必要があります。データセットの偏りは、不公平または不正確なモデル予測につながる可能性があるため、特定して軽減する必要があります。データリネージを追跡することで、データセットの使用方法や維持方法のトレーサビリティ、透明性、説明責任を確認することができます。

データセットは、プライバシー法や組織のデータ処理ポリシーなどのデータ保護規制に準拠する必要があります。定期的なレビューと更新は、データセットの品質を維持し、進化するデータ標準やビジネスニーズを反映するのに役立ちます。

次の画像は、データセットの概要ページを示しています。

集計されたリスクスコアは、バイアス、ドリフト、セキュリティなどの個々のリスクを統合して、部門またはエンタープライズレベルの AI リスクプロファイルに通知し、より高いレベルの可視化と監視を可能にします。たとえば、バイアスの兆候を示すいくつかの顧客向け AI モデルは、組織のリスクにつながる可能性があります。集計されたリスクスコアにより、 AI のリスクおよびコンプライアンス チームは、断片化されたリスクアセスメントを超えて、複数のモデル、チーム、および事業部門にわたる AI リスクの統合ビューを取得できます。