主要な標準化団体が、ビジネスリーダーたちが必要な管理やプロセスを整える前に新技術の導入を急ぐ中で、拡大する「AIガバナンスギャップ」について警告を発しました。
英国規格協会（BSI）は、100社以上の多国籍企業の年次報告書をAI支援で分析し、850人以上の上級ビジネスリーダーを対象とした2つの世界的な調査結果をまとめた新しい報告書でこの見解を示しました。
一方で、ビジネスリーダーのほぼ3分の2（62％）が、今後1年で生産性や効率、コスト削減を目的にAIへの投資を増やす計画を持っています。半数以上（59％）が、AIを将来の成長に不可欠だと考えています。
しかしその一方で、AIガバナンスプログラムを導入していると答えたのはわずか4分の1（24％）で、大企業でも34％にとどまります。
AIガバナンスについてさらに読む：英国企業、AIリスクで平均290万ポンドの損失
BSIの調査では、さらに以下のことが明らかになりました：
- 企業の半数（47％）が正式なプロセスでAIを管理している
- 3分の1（34％）が自主的な行動規範を使用している
- 4分の1（24％）が従業員によるAIツールの利用を監視している
- 3分の1未満（30％）がAIリスクとその軽減策を評価するプロセスを持っている
- 5分の1（22％）が従業員による未承認AIの使用を制限している
AIガバナンスの欠如は経営陣に起因しているようです。経営幹部のうち、AIがビジネスリスクの要因だと感じているのは3分の1のみ。AI関連リスクをコンプライアンスプログラムに含めていると答えたのは半数で、6か月前の60％から減少しています。
BSIによると、AIが新たな脆弱性をもたらす可能性がある箇所を確認するための正式なリスク評価プロセスを持っているのはわずか30％です。
大規模言語モデル（LLM）の訓練に使用されるデータの管理は、リスクの主要な要因であると標準化団体は警告しています。しかし、組織がこのデータの調達元を把握していると答えたビジネスリーダーは28％で、2月の35％から減少しています。訓練に使われる機密データを管理するプロセスがあると答えたのは40％にとどまります。
問題が発生した場合
回答した組織のうち、AIに関する懸念や不正確さを記録するプロセスがあると答えたのは3分の1のみで、AIインシデントをタイムリーに管理するプロセスがあるとしたのはさらに少なく29％でした。
また、調査ではキーワード分析を用いて、組織が報告書でガバナンスの概念をどれだけ強調しているかを調べました。その結果、「ガバナンス」という言葉は、インド企業の報告書より英国企業の報告書で80％多く、中国企業より73％多く登場していました。
また、「自動化」というキーワードは、「スキルアップ」「トレーニング」「教育」よりも7倍多く使われており、現在のスキルレベルに対する過信が示唆されています。
BSIのCEO、スーザン・テイラー・マーティン氏は、明確なAIガバナンスギャップに懸念を表明しました。
「AIは善の力となり得ますが、戦略的な監督や明確なガードレールがなければ、低成長や低生産性、高コストの万能薬にはなりません。実際、これらが整備されていなければ、ビジネスに新たなリスクが生じる可能性があります」と彼女は述べました。
「組織や市場間でアプローチが異なることは、有害な応用のリスクを現実のものにします。過信と断片的・一貫性のないガバナンスアプローチが組み合わさることで、多くの組織が回避可能な失敗や評判の損失に対して脆弱になるリスクがあります。企業は受動的なコンプライアンスから積極的かつ包括的なAIガバナンスへと進化することが不可欠です。」
翻訳元: https://www.infosecurity-magazine.com/news/bsi-warns-of-looming-ai-governance/
