AI システムは、正式なガバナンスフレームワークの下で開発、展開、管理される AI を利用したソリューションです。このフレームワークにより、システムがライフサイクル全体を通じて責任を持って、コンプライアンスを遵守し、リスクを認識した方法で動作することが保証されます。

AI システムは、組織のデジタル環境または運用環境内で機能し、ビジネスアクティビティをサポートします。自動化を可能にし、データ主導の意思決定を強化し、全体的なプロセス効率を向上させます。このシステムには、機械学習モデル、自然言語処理エンジン、コンピュータービジョンツールなどのコンポーネントが含まれています。

これらのコンポーネントは、多くの場合、データセット、アルゴリズム、およびコンピューティングインフラストラクチャによってサポートされています。これらを組み合わせることで、システムは最小限の人間の介入でデータを分析し、パターンを認識し、結果を生成できます。各 AI システムは、構造化された評価プロセスの対象となります。このプロセスでは、機能、セキュリティ、および社会的影響に関連する潜在的なリスクを評価します。また、適用される規制、業界標準、および内部ガバナンスポリシーへのコンプライアンスを検証します。

ガバナンスフレームワークは、ライフサイクル全体を通じて AI システムを管理するために適用されます。これにより、システムが安全に動作し、予測可能で説明可能な信頼できる結果が得られるようになります。公平性、説明責任、透明性などの倫理原則は、定義されたコントロールと監視のメカニズムを通じて適用されます。定期的な監視は、責任あるAIの使用をサポートし、意図しない結果のリスクを軽減します。

次の画像は、AI システムの概要ページを示しています。

集計されたリスクスコアは、バイアス、ドリフト、セキュリティなどの個々のリスクを統合して、部門またはエンタープライズレベルの AI リスクプロファイルに通知し、より高いレベルの可視化と監視を可能にします。たとえば、バイアスの兆候を示すいくつかの顧客向け AI モデルは、組織のリスクにつながる可能性があります。集計されたリスクスコアにより、 AI のリスクおよびコンプライアンス チームは、断片化されたリスクアセスメントを超えて、複数のモデル、チーム、および事業部門にわたる AI リスクの統合ビューを取得できます。

次の画像は、[集計されたリスクスコア] セクションを示しています。