ServiceNow AI Platform 에 대한 Now AssistAI 거버넌스
조직이 효율성, 혁신 및 고객 경험을 주도하기 위해 AI를 점점 더 많이 채택함에 따라 AI 거버넌스는 책임 있는 사용, 규정 준수 및 기업 목표와의 일치를 보장하는 데 필수적이 되었습니다. Now Assist 는 수명주기 전반에 걸쳐 AI를 관리하기 위해 함께 작동하는 주요 역할과 애플리케이션을 통해 포괄적인 거버넌스 프레임워크를 제공합니다.
AI 정책 고려 사항
다음 정책 고려 사항은 기업 전체에서 AI를 배포, 모니터링 및 유지관리하는 방식을 형성합니다.
- 데이터 보안 및 개인정보 보호
- AI 시스템은 민감한 정보를 보호하기 위해 엄격한 데이터 처리 프로토콜을 준수해야 합니다. 여기에는 다음이 포함됩니다.
- 개인 식별 정보, 보호된 건강 정보 및 재무 데이터에 대한 데이터 분류 규칙입니다.
- 전송 중 및 저장 중인 데이터에 대한 암호화 표준입니다.
- 데이터를 저장하고 처리할 수 있는 위치를 결정하는 데이터 보존 및 주권 제한입니다.
- 데이터 보관 기간과 제거해야 하는 시기를 관리하는 보존 및 삭제 정책입니다.
관리자는 중요한 필드를 마스킹하고 타사 모델과 공유되는 항목을 제어하도록 구성할 데이터 개인정보 보호Now Assist 수 있습니다. 자세한 내용은 Data Privacy for Now Assist 문서를 참조하십시오.
- 준수 및 규정
- AI 배포는 다음을 포함한 다양한 규제 프레임워크를 준수해야 합니다.
- 산업 및 지역에 따라 HIPAA, PCI DSS, GDPR, CCPA 및 FedRAMP가 있습니다.
- 외부 공급업체/벤더 위험 관리(특히 외부 모델 또는 서비스를 사용하는 경우)
- 로깅 및 추적성 요구 사항은 AI 결정의 책임성을 보장하는 데 도움이 됩니다.
문서를 게시하거나 기능을 릴리스하기 전, 특히 중복되는 통제 목표를 통합하거나 모델 투명성을 해결할 때 법적 검토가 필요한 경우가 많습니다.
- 책임 있는 AI 사용
- 윤리적이고 효과적인 AI를 보장하기 위해 조직은 다음을 시행해야 합니다.
- AI 에이전트의 명명 규칙 및 브랜딩 정책을 포함한 모델 승인 및 사용 가이드라인입니다.
- AI 스튜어드가 환각 또는 민감한 데이터 노출과 같은 위험을 평가하는 편향 및 공정성 보호 장치입니다.
- AI가 인간의 판단을 대체하는 대신 강화하도록 보장하는 인간 감독 요구 사항입니다.
- 제품 설명서에서와 같이 Azure OpenAI 외부 공급업체 모델의 사용을 공개하는 것과 같은 투명성 의무.
- 거버넌스 및 변경 관리
-
AI 거버넌스는 구조화된 감독 및 변경 통제 프로세스로 지원됩니다.
- 전사적 가드레일 및 새로운 사용 사례의 정의, 검토 및 승인입니다.
- 변경 통제 및 출시 프로세스를 통해 AI 기능이 안전하고 예측 가능하게 배포됩니다.
- 데이터 침해 또는 모델 장애와 같은 문제를 해결하기 위해 인시던트 응답 및 에스컬레이션 계획이 마련되어 있습니다.
AI 정책 이해 관계자
조직에서 AI 정책을 설정하고 실행하는 그룹은 다음과 같습니다.
- 정책 설정자
- 최고 정보 책임자(CIO) 또는 최고 기술 책임자(CTO)는 전반적인 기술 전략을 설정하여 AI 이니셔티브가 엔터프라이즈 아키텍처 및 혁신 목표에 부합하도록 합니다. CISO(최고 정보 보안 책임자)는 AI 워크플로우 전반에서 민감한 정보를 보호하기 위해 데이터 보안 및 암호화 표준을 수립합니다. 최고 데이터 책임자(CDO)는 데이터 사용 및 거버넌스를 감독하여 AI 시스템이 조직 정책에 따라 윤리적으로 데이터를 처리하도록 합니다. 한편, 최고 개인정보 보호 책임자와 법무 팀은 규정 준수를 담당하여 AI 배포가 GDPR, HIPAA 및 기타 관할권 또는 산업별 표준과 같은 요구 사항을 충족하도록 합니다. 이러한 리더는 함께 AI 거버넌스의 기반을 형성하여 구현 팀과 관리자가 책임감 있고 안전하게 AI를 배포할 수 있도록 안내합니다.
- 내부 거버넌스 및 감독
- 에서 Now Assist AI에 대한 거버넌스 및 감독은 책임 있는 사용을 정의하고 시행하는 구조화된 그룹이 주도합니다. AI 거버넌스 위원회와 데이터 거버넌스 위원회는 개인정보 보호, 공정성 및 규정 준수에 대한 표준을 포함하여 AI에 대한 전사적 가드레일을 설정하고 새로운 AI 사용 사례를 검토하고 승인할 책임이 있습니다. 이러한 기관을 지원하는 AI 스튜어드는 데이터 품질을 감독하고, 편향 또는 데이터 노출과 같은 위험을 관리하고, 규제 요구 사항 준수를 모니터링하는 등 워크플로우 전반에 걸쳐 AI가 책임감 있게 사용되도록 합니다. 또한 AI 스튜어드는 규정 준수를 모니터링하고, 성능 및 사용자 피드백을 평가하며, 관리자 및 개발자와 협력하여 위험을 최소화하면서 AI 자동화를 최적화합니다.
- 구현 및 운영
- 구현 및 운영 팀은 거버넌스 정책에 따라 AI 기능을 안전하게 배포하고 관리하는 일을 담당합니다. Now Assist 관리자는 AI 기능이 워크플로우에 적절하게 매핑되고 엔터프라이즈 표준에 따라 관리되도록 역량을 구성하고 관리 Now Assist 합니다. 플랫폼 소유자와 ServiceNow 관리자는 배포 프로세스를 감독하여 모든 구성이 설정된 정책 및 기술 요구 사항을 준수하는지 확인합니다. 한편, AI 개발자는 AI 기능을 구축, 확장 및 비즈니스 워크플로에 통합하고 관리자 및 플랫폼 팀과 긴밀히 협력하여 확장 가능하고 규정을 준수하며 효과적인 AI 솔루션을 제공합니다. 이러한 역할은 함께 거버넌스 정책을 안전하고 기능적인 AI 구현으로 변환합니다.
AI 거버넌스 사용자 역할에 대한 자세한 내용은 해당 문서를 참조하십시오 데이터 스튜어드 역할 할당.
AI 거버넌스에 대한 자세한 자원은 다음 베스트 프랙티스 주제를 참조하십시오.
AI 거버넌스 도구
Now Assist 관리는 다음 도구에서 지정됩니다.
- AI 컨트롤 타워
- AI 컨트롤 타워 에서 AI 전략, 거버넌스 및 분석을 Now Assist위한 중앙 허브 역할을 합니다. AI 자산, 사용 패턴 및 준수 상태에 대한 전사적 가시성을 제공하여 조직이 감독과 책임을 유지할 수 있도록 합니다. 승인된 AI 자산의 자동 검색 및 인벤토리를 통해 자산 관리를 간소화하는 동시에 거버넌스 확인 및 규정 준수 경보를 포함하여 모든 AI 배포가 안전하게 유지되고 조직 정책에 부합하도록 합니다.
- Now Assist 관리자 콘솔
- 콘솔은 Now Assist 관리자 정책을 구성하고, 데이터 처리 규칙을 적용하고, 보안 및 개인정보 보호 표준 준수를 보장하여 AI 거버넌스를 관리하는 데 핵심적인 역할을 합니다. 관리자는 기술 수준에서 제공자 정책을 감독하고, 성공률 및 채택과 같은 사용량 분석을 추적하며, AI 스튜어드 및 비즈니스 SME와 협력하여 AI를 조직 목표에 맞춥니다. 또한 원활한 정책 실행을 지원하기 위해 거버넌스 위원회와 기술 팀을 연결합니다.