AIデータの拡散、進化する規制要件、および大規模言語モデル（LLM）崩壊のリスクが、今後2年間でゼロトラストアプローチのデータガバナンス採用を促進するだろうとガートナーが主張しています。
アナリスト企業は、書籍、コードリポジトリ、研究論文などのソースがAI生成コンテンツをますます含むようになるにつれて、これらのソースをスクレイピングする将来のLLMは事実上、以前のモデルの出力で訓練されることになると警告しています。
これはモデルの品質と精度の低下を加速させ、幻覚とバイアスの増加をもたらす可能性があります。未検証のAIデータの急増に対応して、世界の組織の最大半数がゼロトラストデータガバナンスに転じるとガートナーは予測しています。
規制当局もこの分野への監視を強化するだろうと同アナリストは主張しています。
「AI生成コンテンツがより一般的になるにつれて、『AIフリー』データの検証に関する規制要件は特定地域で強化されることが予想されます」とガートナー シニアバイスプレジデントのWan Fui Chan氏は述べています。
「この進化する規制環境においては、すべての組織がAI生成データを識別およびタグ付けする機能を必要とするでしょう。成功は、適切なツールと情報およびナレッジマネジメント技能を持つ人材、ならびにデータカタログに不可欠なメタデータ管理ソリューションを有することに左右されます。」
詳細はこちら：NISTが新しいゼロトラスト実装ガイダンスを公開
ここでデータガバナンスへのゼロトラストアプローチが役立つ可能性があります。
Chan氏は、認証および検証対策がまもなく「ビジネスおよび財務上の成果を保護するために不可欠」になると主張しています。
メタデータ管理による差別化
ガートナーによれば、グローバル企業はデータガバナンスに関する今後の規制に先手を打ち、データアセット全体にわたる分析、アラート、および意思決定自動化の方法に焦点を当てることで、競争上の優位性を確立することができます。
同社は以下のステップを提案しています：
- ゼロトラストポリシー、AIリスク管理、コンプライアンスに関してデータ・アナリティクス（D&A）チームと密接に協力する専任のAIガバナンスリーダーを任命する
- サイバーセキュリティ、データ・アナリティクス（D&A）、およびビジネスの他部門から機能横断チームを形成してデータリスク評価を実施する。これらのチームは、AI生成データに関連するビジネスリスクを特定し、既存ポリシーで対処されているもの、新たなポリシーが必要なものを判断するのに役立つはずです
- 既存のD&Aガバナンスポリシーとフレームワークを使用し、セキュリティ、メタデータ管理、および倫理関連ポリシーを更新してAI生成データからの新たなリスクに対応する
- データが古くなっているか再認定が必要な場合にリアルタイムでアラートを発するアクティブなメタデータプラクティスを採用する。これにより、ビジネスクリティカルシステムが不正確または偏ったデータに露出する可能性があるタイミングを組織が迅速に検出するのに役立ちます
翻訳元: https://www.infosecurity-magazine.com/news/ai-model-collapse-zero-trust-data/
