ai and ml
FCA、自律性を高めるエージェントの金融サービス導入に際し、明確な責任の所在を求める
英国の金融規制当局は、自律性を高めるAIシステムが新たなリスクをもたらしていることから、企業のインシデント報告には重大なAI障害やニアミス（ヒヤリハット）も含めるべきだと述べました。
金融行動監視機構（FCA）のデータ・情報・インテリジェンス最高責任者であるジェシカ・ルス（Jessica Rusu）氏は、月曜日に開かれたBloombergの「UK Policy Series」で講演し、英国が金融サービスにおけるAIの安全な導入を主導できるよう後押ししたいと語りました。ただし、自律性が高まるほど、責任の所在を明確にする必要があるといいます。
「ガバナンスが不十分なAIは、消費者被害やサイバー脆弱性、業務障害を引き起こしかねません。しかも、はるかに速く、大規模に起こる可能性があります」と同氏は述べました。
「現行の規則でも、企業は重大なインシデントを報告するよう求められています。これを、重大なAI障害やニアミスにも広げなければなりません。AI担当大臣が認識しているとおり、エージェント型AIのニアミス報告は国家安全保障上の優先課題になりつつあります。規制上も優先課題です」
英国は金融サービス分野で、国の規模以上の存在感を示しています。同セクターは2025年に英国経済へ2236億ポンドを寄与しており、国内総生産の8％に相当します。この割合はOECD加盟国で4番目の高さです。
先週、英国のAI担当大臣カニシュカ・ナラヤン（Kanishka Narayan）氏は、AI主導のサイバー脅威や制御喪失リスクから英国をより適切に守るため、政府が議会や技術専門家と連携し、制度をどう強化できるか検討する方針を示しました。
「これには、重大なインシデントやニアミスの特定と報告、重要サービス全般におけるAI起因のリスク低減、重大なAIインシデントを適切に検証できる体制の確保が含まれます」と同氏は述べました。
独立系非営利団体Guidelight AI Standardsの共同創設者で最高科学責任者のスティーブン・アドラー（Steven Adler）氏も先週、議員らに対し、AIの監督は航空分野に学べるのではないかと述べました。航空分野では、ニアミスの報告がほとんどの法域で義務付けられています。
「航空分野では、実際に死者が出た重大事故だけでなく、ニアミスについても把握しようとします。そこから学び、将来の事故を防ぐことができるからです」と同氏は語りました。
ただし、政府は、サイバーセキュリティ・レジリエンス（ネットワーク・情報システム）法案にAI固有の措置を盛り込むかどうか、まだ確約していません。科学・イノベーション・技術省で成長・科学・国際担当の局長を務めるアレクサンドラ・ジョーンズ（Alexandra Jones）氏は先週、議員らに対し、修正案は引き続き検討中だと述べました。
1月には、下院財務委員会が金融規制当局に対し、AI起因の市場ショックに企業が備えられているかを確認するためのストレステストを実施するよう求めました。同委員会は、AIシステムが有害または不公平な結果をもたらした場合には、責任の所在を明確にすべきだとしています。®
