AIの最大の危険はSFではなく、すでに現実に存在しています。Paul DonghaがCISOがレッドフラグを見抜き、AIの利用を倫理的かつ説明責任を持って行う方法を共有します。
Paul DonghaはNatWestグループの責任あるAIおよびAI戦略の責任者であり、人工知能が安全かつ倫理的に、規制の期待に沿って導入されることを保証するフレームワークの開発を主導しています。
以前はLloyds Banking Groupのグループデータ・AI倫理責任者を務め、Paul Donghaは、企業のAIシステムに透明性、説明責任、信頼を組み込む最前線で活躍してきました。
金融機関が新興技術にどのように取り組むかを形作る豊富な経験を持つDonghaは、AIがビジネスや社会にもたらす機会とリスクの両方について、明確な視点を提供しています。
このチャンピオンズ・スピーカーズ・エージェンシーとの独占インタビューで、CISOや取締役会が監視すべき倫理的なレッドフラグ、規制当局の責任、そして今日注目すべき現実的なリスクについて語ります。
Q: CISOや取締役会は、組織内でAIを導入する際にどのような倫理的レッドフラグに注意すべきでしょうか？
Paul Dongha：「最近明らかになったAIシステムに関する顕著な課題やリスクの一つは、人間の主体性です。
AIシステムは高度なアウトプットを生み出す能力があり、ある程度、人間から正しい判断を下す力を奪ってしまいます。人間の主体性の喪失は非常に注意すべきことであり、そのリスクは軽減しなければなりません。
「もう一つのリスクは堅牢性です。AIシステムは同じ質問に対して時に異なる答えを返すことがあります。そのため、技術的な堅牢性――AIシステムが同じ質問に対して常に同じ結果を出すことを保証すること――も注視すべき点だと思います。
「データプライバシーも重要です。AIシステムが、個人や組織に関する機密情報やプライベートな情報を意図せず漏洩してしまう可能性も警戒しなければなりません。
「透明性も非常に重要です。機械学習やAIシステムの動作は非線形であり、どのようにして決定に至ったのかを理解するのは難しいです。AIシステムが特定の答えを導き出した過程を内省する技術もありますが、それらはあくまで近似にすぎません。アルゴリズムの透明性――それが機械学習であれ生成AIであれ――には細心の注意を払う必要があります。
「そしてバイアスです。多くのシステムにバイアスが入り込むのを見てきましたが、それは多様性や包摂性を支える力を奪ってしまいます。これらのバイアスは、AIシステムを訓練するデータや、システム開発ライフサイクルの中に内在していることがあります。これは継続的な課題であり、生成AIの場合は膨大な訓練データが関与するため、特に大きな問題となります。
「最後に、説明責任です。特に商業組織は、AIシステムのアウトプットに対して救済を求める必要がある場合に備えて、適切なプロセスを整備していることを示す必要があります。企業はシステムの構築方法や運用方法について、完全な説明責任を負うべきです。」
Q: すべての大企業はAI倫理委員会を設置すべきでしょうか？また、その権限には何を含めるべきでしょうか？
Paul Dongha：「大企業の経営陣や意思決定者については、いくつか重要な点があります。
「まず第一に、倫理委員会は絶対に必要だと考えます。組織内の多様なバックグラウンドを持つ上級幹部で構成されるべきであり、その参加者は顧客や顧客のニーズをしっかりと理解している必要があります。
「委員会のメンバーは倫理について訓練を受け、人工知能の落とし穴を理解し、どのAIアプリケーションを顧客に提供するかについて意思決定を行うべきです。
「重要なのは、倫理委員会がITシステムだけに倫理的な問いの答えを委ねるべきではないということです。倫理とは、さまざまなステークホルダー間の議論に帰結します。倫理委員会は、例えばアプリケーションのリリース時に、それが顧客に害を及ぼす可能性があるか、驚きを与えるかどうかで意見が分かれるようなケースについて議論・検討する場です。
「また、すべての銀行――そしておそらくすべての大企業――の取締役会には、責任あるAI担当役員を任命し、アプリケーションの構築から運用後まで、リスク管理全体を監督すべきだと考えます。倫理は開発やリリースのあらゆる段階で考慮される必要があります。
「リスク管理の実践や監査機能も、責任あるAI担当役員の権限に統合し、強力な監督体制を確保すべきです。」
Q: 規制当局や政府はAIリスクを管理するために十分なスピードで動いているでしょうか？
Paul Dongha：「政府や民主的に選ばれた機関、そして業界の規制当局は、この分野で非常に大きな役割を担っていると考えます。
「私たちは社会として、政府に私たちを守ることを委ねています。立法プロセスがあり――たとえば運転のような単純なことでも、車両を正しく操作するためのルールがあります。そうしたルールがなければ、運転は非常に危険なものになります。AIも同じで、AIの利用や導入に関する法律やルールは極めて重要です。
「企業は株主に対して説明責任を負っているため、最終的には利益が最も重要になります。つまり、AIのガードレールを企業自身に任せるのは賢明ではありません。政府が、何が合理的で何が高リスクなのか、何が公益にかなうのかを定める必要があります。
「テクノロジー企業もその議論に参加する必要はありますが、主導するべきではありません。そうした議論は、社会を守るために私たちが選んだ機関が主導すべきです。」
Q: 汎用人工知能（AGI）の脅威はどれほど現実的でしょうか？また、今日注目すべきリスクは何でしょうか？
Paul Dongha：「人間レベルの知能に近づくAIである汎用人工知能（AGI）は、何十年もAI研究の究極の目標とされてきましたが、私たちはまだその段階には到達していません。人間の知能の多くの側面――社会的なやりとり、感情的知性、さらにはコンピュータビジョンの要素でさえ――現在のAI世代には到底実現できません。
「最近のトランスフォーマーベースの技術は非常に高度に見えますが、実際にその仕組みを詳しく見ると、人間の思考や行動とは全く異なる動作をしています。私は、AGIの実現にはまだほど遠く、現行のアプローチでは到達できないと考えています。
「したがって、差し迫った超知能やターミネーターのような状況を心配する必要はありません。しかし将来的には可能性があるため、備えておく必要はあります。
「その一方で、現在のAI世代には現実的かつ差し迫ったリスクがあります。兵器化、偽情報、そして悪意ある国家が生成AIを使って有権者に影響を与える能力です。AGIがなくても、現行のシステムは大きな力を持っており、悪用されれば社会に深刻な害をもたらす可能性があります。」
この記事はFoundry Expert Contributor Networkの一環として公開されています。
参加希望はこちら
