AI 위험 및 준수 탐색
애플리케이션을 사용하여 AI 위험 및 준수 AI(인공 지능) 역량을 윤리적으로 관리하고, AI 위험을 완화하고, 규정 준수를 보장하는 방법에 대해 알아봅니다.
AI 위험 및 준수 개요
AI 위험 및 규정 준수 팀은 AI와 관련된 위험을 식별하고 평가하는 일을 담당합니다. 여기에는 AI 역량이 책임감 있게 구현되도록 법적, 규제적, 윤리적 고려 사항을 평가하는 것이 포함됩니다. 그들의 역할은 조직이 산업 표준 및 윤리 원칙을 준수하면서 AI 솔루션을 채택할 수 있도록 하는 지침과 프레임워크를 수립하는 것입니다. AI 위험 및 준수 이 애플리케이션을 사용하면 조직의 위험 및 규정 준수 팀이 AI 역량과 자산을 관리할 수 있습니다.
AI 위험 및 준수 사용자
다음 테이블에 나열된 사용자는 일반 역할을 나타냅니다. 이러한 각 역할은 다양한 조직에서 서로 다른 직함과 이름으로 식별될 수 있습니다. 애플리케이션 내의 AI 위험 및 준수 특정 역할에 대한 자세한 내용은 다음 문서를 참조하십시오 AI 위험 및 준수와 함께 설치되는 역할.
| 사용자 | 설명 |
|---|---|
| AI 제품 소유자, 비즈니스 사용자, IT 자산 소유자, AI 실무자 |
|
| AI 사무장 |
|
| 최고 위험 책임자 |
|
| AI 위험 및 규정 준수 분석가 | 규정 준수 및 위험 인벤토리(예: 권한 문서, 위험 설명, 정책 및 통제)를 보고 관리하며 대시보드에 고급 위험 액세스합니다. |
| AI 위험 및 준수 관리자 |
|
AI 위험 및 준수 워크플로우
다음 섹션에서는 AI 자산이 애플리케이션에서 생성 AI 컨트롤 타워 될 때와 자산이 배포되어 모니터링될 때까지 애플리케이션에서 자산의 위험이 평가 AI 위험 및 준수 될 때 수반되는 단계를 설명합니다.
새로운 AI 시스템이 도입되거나 개선되면 위험 평가 및 AI 영향 평가를 거칩니다. 이러한 평가는 AI 시스템의 위험 수준을 나타내는 점수를 산출합니다. 관련 이해 관계자로부터 승인을 받으면 개발 또는 빌드 단계가 시작됩니다. 개발 중에 통제가 입증되고, 문제가 추적 및 관리되며, 위험 및 규정 준수 관점에서 필요에 따라 정책 예외가 제기됩니다. 개발 후 AI 시스템을 검토하여 다음을 확인합니다.
- 적합성 평가 완료
- 미해결 문제 및 정책 예외 검토 및 해결
- 위험 재평가
AI 자산 생성 및 배포 워크플로우는 다음과 같습니다.
- 비즈니스 사용자는 또는 작업 공간을 사용하여 직원 센터 새 AI 사용 케이스를 AI 컨트롤 타워 제출합니다.
- 작업 공간에 새 인벤토리 기록이 자동으로 생성됩니다.
- AI CoE(우수성 센터) 팀에서 제출된 사용 사례를 검토합니다.
- 사용 케이스가 다음 단계로 진행해야 하는지 여부를 결정하는 데 도움이 되도록 관련 자산이 인벤토리에 추가됩니다.
- AI 위험 및 준수 작업 공간에서 AI 영향 평가 또는 AI 적합성 평가가 시작됩니다.
- 할당된 비즈니스 사용자가 작업 공간에서 평가를 완료합니다.
- 평가 결과에 따라 잠재적 위험과 필요한 통제가 식별되고 매핑됩니다.
- 평가가 승인되면 적절한 팀에서 AI 사용 사례를 빌드합니다.
- 완성된 솔루션은 공식적인 검토 프로세스를 거칩니다.
- 규정 준수 및 성과를 보장하기 위해 지속적인 모니터링이 수행됩니다.
- 검토가 완료되면 솔루션이 프로덕션에 배포됩니다.
AI 위험 및 준수 이점
이 AI 위험 및 준수 애플리케이션은 AI를 사용하는 모든 조직이 직면한 다음과 같은 문제를 해결합니다.
- AI 전략 부족: 일반적으로 합의된 AI 전략이나 기업 목표와의 연계가 없습니다.
- 중앙 집중식 관리 없음: 모든 이해 관계자와 최고 AI 책임자가 협업하고 AI 사용을 관리할 수 있는 단일 플랫폼이 없습니다.
- 책임 있는 AI 지침 없음: 윤리적이고 책임감 있는 AI 사용에 대한 지침이 없습니다.
- 위험 평가 프로세스 없음: 사내 및 외부 공급업체 AI에 대한 위험을 평가하는 프로세스가 없습니다.
- 확장성 및 모니터링 문제: AI 배포 확장, 성능 추적, 개인정보 보호와 같은 새로운 위험에 대한 지속적인 모니터링의 과제.
| 혜택 | 기능 | 역할 |
|---|---|---|
| 더 나은 가시성, 제어 및 규정 준수를 위해 일관된 거버넌스를 통해 전체 수명주기에 걸쳐 AI 시스템, 모델 및 데이터 세트를 관리합니다. | AI asset lifecycle | AI 사무장 |
| AI 시스템, 모델 및 데이터 세트에 대한 영향 평가를 수행하여 고위험 AI 자산을 식별합니다. | AI 사용 사례에 대한 영향 평가를 수행합니다. | 필요한 역할은 다음과 같습니다.
|
| 추가 정보 및 테스트를 기반으로 AI 시스템 및 AI 자산과 관련된 개별 위험에 대한 위험 평가를 수행합니다. | AI 시스템에 대한 위험 평가 수행AI 자산의 위험에 대한 위험 평가 시작 | AI 위험 및 규정 준수 분석가 |
| 구조화된 케이스 관리 프로세스를 통해 AI 관련 케이스와 문제를 관리하고 감독합니다. | 필요한 역할은 다음과 같습니다.
|
|
| AI 프레임워크 컨텐츠 팩을 사용하여 규제 요구 사항에 부합하는 규정 준수 준비 AI 자산 인벤토리를 빌드합니다. | AI 위험 및 규정 준수 분석가 |
다음으로 살펴볼 내용
AI 위험 및 준수 구성 및 사용에 대한 자세한 내용은 다음을 참조하십시오.