ServiceNow AI Platform での Now Assistのための AI ガバナンス
効率性、イノベーション、カスタマーエクスペリエンスを推進するために組織が AI を採用することが増えるにつれ、責任ある使用、規制コンプライアンス、企業目標との整合性を確保するために AI ガバナンスが不可欠になっています。 Now Assist は、ライフサイクル全体で AI を管理するために連携する主要なロールとアプリケーションを通じて、包括的なガバナンスフレームワークを提供します。
AI ポリシーに関する考慮事項
次のポリシーに関する考慮事項は、企業全体で AI を展開、監視、維持する方法を形成します。
- データセキュリティとプライバシー
- AI システムは、機密情報を保護するために、厳格なデータ処理プロトコルに準拠する必要があります。具体的な内容は次のとおりです。
- 個人識別可能情報、保護された健康情報、および財務データのデータ分類ルール。
- 転送中および保存中のデータの暗号化標準。
- データの保存と処理ができる場所を決定する、データの所在地と主権の制限。
- データの保持期間と消去タイミングを管理する保持ポリシーと削除ポリシー。
アドミニストレーターは、Now Assistのデータプライバシーを設定して、機密フィールドをマスクし、サードパーティモデルと共有する内容を制御できます。詳細については、「Data Privacy for Now Assist」を参照してください。
- コンプライアンスと規制
- AI の展開では、次のようなさまざまな規制の枠組みに準拠する必要があります。
- 業界と地域に応じて、HIPAA、PCI DSS、GDPR、CCPA、FedRAMP など。
- サードパーティ/ベンダーのリスク管理 (特に外部モデルまたはサービスを使用する場合)。
- ログ記録とトレーサビリティの要件は、AI の意思決定における説明責任を確保するのに役立ちます。
ドキュメントを公開したり機能をリリースしたりする前に、特に重複するコントロール目標を統合したり、モデルの透明性に対処したりする場合は、法務レビューが必要になることがよくあります。
- 責任ある AI の使用
- 倫理的で効果的な AI を確保するために、組織は次のことを実施する必要があります。
- AI エージェントの命名規則やブランディングポリシーなど、モデルの承認と使用のガイドライン。
- AI スチュワードが幻や機密データの露出などのリスクを評価するバイアスと公平性の保護措置。
- 人間の監視要件。AI が人間の判断に取って代わるのではなく、強化するようにします。
- 製品ドキュメントで Azure OpenAI などのサードパーティモデルの使用を開示するなどの透明性の義務。
- ガバナンスと変更管理
-
AI ガバナンスは、構造化された監視および変更コントロールプロセスによってサポートされています。
- 全社的なガードレールと新しいユースケースの定義、レビュー、および承認。
- 変更管理とロールアウトプロセスにより、AI 機能が安全かつ予測可能に展開されます。
- データ侵害やモデル障害などの問題に対処するために、インシデントレスポンスとエスカレーション計画が用意されています。
AI ポリシーのステークホルダー
次のグループは、組織内で AI ポリシーを設定および実行します。
- ポリシーセッター
- 最高情報責任者 (CIO) または最高技術責任者 (CTO) は、全体的なテクノロジー戦略を設定し、AI イニシアチブがエンタープライズアーキテクチャとイノベーションの目標と一致するようにします。最高情報セキュリティ責任者 (CISO) は、AI ワークフロー全体で機密情報を保護するためのデータセキュリティと暗号化の標準を確立します。最高データ責任者 (CDO) は、データの使用とガバナンスを監督し、AI システムが倫理的に組織のポリシーに従ってデータを処理するようにします。一方、最高プライバシー責任者と法務チームは規制コンプライアンスを担当し、AI の展開が GDPR、HIPAA、その他の管轄区域または業界固有の基準などの要件を満たしていることを確認します。これらのリーダーは共に AI ガバナンスの基盤を形成し、実装チームとアドミニストレーターが責任を持って安全に AI を展開できるように導きます。
- 内部ガバナンスと監督
- Now Assistにおける AI のガバナンスと監視は、責任ある使用を定義して強制する構造化されたグループによって主導されます。AI ガバナンス委員会とデータガバナンス評議会は、プライバシー、公平性、コンプライアンスの基準など、AI に対する全社的なガードレールを設定し、新しい AI ユースケースのレビューと承認を担当します。これらの機関をサポートする AI スチュワードは、ワークフロー全体で AI が責任を持って使用されるようにし、データ品質を監視し、バイアスやデータ露出などのリスクを管理し、規制要件の遵守を監視します。さらに、AI スチュワードは、規制コンプライアンスを監視し、パフォーマンスとユーザーからのフィードバックを評価し、アドミンや開発者と協力して、リスクを最小限に抑えながら AI 自動化を最適化します。
- 実装と運用
- 実装チームと運用チームは、ガバナンスポリシーに沿って AI 機能を安全に展開および管理する責任があります。Now Assistアドミニストレーターは、Now Assist機能を構成および管理し、AI 機能がワークフローに適切にマッピングされ、企業標準に従って管理されるようにします。プラットフォームオーナーと ServiceNow アドミンは展開プロセスを監督し、すべての構成が確立されたポリシーと技術要件に準拠していることを確認します。一方、AI 開発者は、AI 機能を構築、拡張し、ビジネス ワークフローに統合し、管理者やプラットフォーム チームと緊密に連携して、スケーラブルでコンプライアンスに準拠した効果的な AI ソリューションを提供します。これらのロールを組み合わせることで、ガバナンスポリシーが安全で機能的な AI 実装に変換されます。
AI ガバナンスのユーザーロールの詳細については、「 と データスチュワードロールのアサイン」を参照してください。
AI ガバナンスに関するその他のリソースについては、次のベストプラクティスのトピックを参照してください。
AI ガバナンスツール
Now Assist ガバナンスは、次のツールで指定されます。
- AI コントロールタワー
- この AI コントロールタワー は、 Now Assist内の AI 戦略、ガバナンス、アナリティクスの中央ハブとして機能します。AI 資産、使用パターン、コンプライアンスステータスを全社的に可視化し、組織が監視と説明責任を維持できるようにします。承認された AI 資産の自動検出とインベントリを通じて、資産管理を簡素化すると同時に、ガバナンスチェックとコンプライアンスアラートを埋め込み、すべての AI 展開が安全に維持され、組織のポリシーに沿っているようにします。
- Now Assist アドミン コンソール
- Now Assist アドミン コンソールは、ポリシーを構成し、データ処理ルールを適用し、セキュリティとプライバシー標準へのコンプライアンスを確保することで、AI ガバナンスを管理するための鍵となります。アドミンは、スキルレベルでプロバイダーのポリシーを監督し、成功率やアダプションなどの使用状況アナリティクスを追跡し、AI スチュワードやビジネス SME と協力して AI を組織の目標に合わせます。また、ガバナンス委員会と技術チームを結び付けて、スムーズなポリシー実行をサポートします。