데이터 세트는 조직 정책, 규정 및 윤리 표준에 따라 AI 시스템을 개발, 배포 및 모니터링하는 데 사용되는 구조화된 데이터의 선별된 모음입니다.

AI 데이터 세트는 위험 평가, 규정 준수 상태, 소유권, 감사 추적 및 성과 메트릭을 포함하여 AI 모델에 대한 주요 정보를 캡처하여 거버넌스 목표를 지원합니다. 또한 조직 내에서 효과적인 감독, 책임 및 의사 결정을 가능하게 합니다. 데이터 세트의 품질과 구성은 AI 모델의 성능, 공정성 및 정확성에 직접적인 영향을 미칩니다. 잘 선별된 데이터 세트는 모델이 의미 있는 패턴을 학습하고 실제 시나리오에서 신뢰할 수 있는 출력을 생성하는지 확인하는 데 도움이 됩니다.

각 데이터 세트는 완전성, 정확성 및 의도한 사용 사례와의 관련성에 대해 평가되어야 합니다. 데이터 세트의 편향은 불공정하거나 부정확한 모델 예측으로 이어질 수 있으며 식별하고 완화해야 합니다. 데이터 계보를 추적하면 데이터 세트가 사용되고 유지되는 방식에 대한 추적 가능성, 투명성 및 책임성을 확인하는 데 도움이 됩니다.

데이터 세트는 개인 정보 보호법 및 조직 데이터 처리 정책을 포함한 데이터 보호 규정을 준수해야 합니다. 정기적인 검토 및 업데이트는 데이터 세트 품질을 유지하고 진화하는 데이터 표준 또는 비즈니스 요구 사항을 반영하는 데 도움이 됩니다.

다음 이미지는 데이터 세트의 개요 페이지를 보여줍니다.

집계된 위험 점수는 편향, 드리프트 및 보안과 같은 개별 위험을 통합하여 부서 또는 엔터프라이즈 수준의 AI 위험 프로필을 알리고 더 높은 수준의 가시성과 감독을 가능하게 합니다. 예를 들어, 편향의 징후를 보이는 여러 고객 대면 AI 모델은 조직의 위험으로 이어질 수 있습니다. 집계된 위험 점수를 통해 AI 위험 및 준수 팀은 조각화된 위험 평가를 넘어 여러 모델, 팀 및 비즈니스 단위에 걸쳐 AI 위험에 대한 통합 보기를 얻을 수 있습니다.