AI 시스템은 공식적인 거버넌스 프레임워크 하에서 개발, 배포 및 관리되는 AI 기반 솔루션입니다. 이 프레임워크는 시스템이 수명주기 전반에 걸쳐 책임감 있고 규정을 준수하며 위험을 인식하는 방식으로 운영되도록 합니다.

AI 시스템은 조직의 디지털 또는 운영 환경 내에서 작동하여 비즈니스 활동을 지원합니다. 자동화를 가능하게 하고, 데이터 기반 의사 결정을 향상시키며, 전반적인 프로세스 효율성을 개선합니다. 시스템에는 머신 러닝 모델, 자연어 처리 엔진 또는 컴퓨터 비전 도구와 같은 구성요소가 포함되어 있습니다.

이러한 구성 요소는 종종 데이터 세트, 알고리즘 및 컴퓨팅 인프라에서 지원됩니다. 이 둘을 함께 사용하면 시스템이 데이터를 분석하고 패턴을 인식하며 최소한의 인적 개입으로 결과를 생성할 수 있습니다. 각 AI 시스템에는 구조화된 평가 프로세스가 적용됩니다. 이 프로세스는 기능, 보안 및 사회적 영향과 관련된 잠재적 위험을 평가합니다. 또한 해당 규정, 산업 표준 및 내부 거버넌스 정책을 준수하는지 확인합니다.

거버넌스 프레임워크는 AI 시스템의 수명주기 전체를 관리하기 위해 적용됩니다. 시스템이 안전하게 작동하고 예측 가능하고 설명 가능하며 신뢰할 수 있는 결과를 제공하도록 합니다. 공정성, 책임성, 투명성과 같은 윤리적 원칙은 정의된 통제 및 감독 메커니즘을 통해 시행됩니다. 정기적인 모니터링은 책임감 있는 AI 사용을 지원하고 의도하지 않은 결과의 위험을 줄입니다.

다음 이미지는 AI 시스템의 개요 페이지를 보여줍니다.

집계된 위험 점수는 편향, 드리프트 및 보안과 같은 개별 위험을 통합하여 부서 또는 엔터프라이즈 수준의 AI 위험 프로필을 알리고 더 높은 수준의 가시성과 감독을 가능하게 합니다. 예를 들어, 편향의 징후를 보이는 여러 고객 대면 AI 모델은 조직의 위험으로 이어질 수 있습니다. 집계된 위험 점수를 통해 AI 위험 및 준수 팀은 조각화된 위험 평가를 넘어 여러 모델, 팀 및 비즈니스 단위에 걸쳐 AI 위험에 대한 통합 보기를 얻을 수 있습니다.

다음 이미지는 집계된 위험 점수 섹션을 보여줍니다.