ai and ml
閣僚は対応を約束しているものの、当局者によると修正案は依然として検討段階にあるという
英国の当局者は、「サイバーセキュリティ・レジリエンス法案」にAI固有の対策を盛り込むかどうかについて、明確な約束を避けています。閣僚は必要な場合には立法で対処すると公言しているにもかかわらずです。
こうした不透明感が広がる中、自律型AIの脅威を巡る警告も相次いでいます。Anthropicは、小型モデルが脆弱なスマートデバイス上で自己複製するワームとして動作するようになるまで、数カ月しか残されていない可能性があると予測しました。
上級公務員は今週、AIのリスクに対処するため、法案の修正を引き続き検討していると議員らに説明しました。
ビジネス・イノベーション・科学・貿易省で成長・国際・科学技術担当の局長を務めるアレクサンドラ・ジョーンズ氏は、「AIと新興技術の政策」を所管しています。しかし同氏は議員らに対し、最近の省庁再編により、サイバーセキュリティ・レジリエンス（ネットワーク・情報システム）法案はデジタル・文化・メディア・スポーツ省の所管になったと述べました。
ジョーンズ氏は次のように語りました。「サイバーセキュリティ法案を活用し、AI、サイバー、そして制御喪失リスクへの備えを高めるための変更を検討することを提案しています。重大インシデントやニアミスをどう特定し報告するか、組織全体でAI主導の混乱をどう封じ込めるかについても検討します」
火曜日に開かれたビジネス・イノベーション・科学・貿易委員会の公聴会で、リアム・バーン委員長は次のように割って入りました。「法案で何かを『検討する』ことはできません。法案では何かを『立法する』のです」
内閣府に所属するAI担当大臣のカニシュカ・ナラヤン氏は今週、「高まるAIリスクに対する国家の防衛を強化する」計画を発表しました。
同氏は次のように述べています。「我々はあらゆる権限を行使します。必要であれば立法も行います。ただし、法律だけに頼るつもりはありません。英国の創意工夫、つまり科学的専門知識や技術力、各種機関の力を活用し、ますます強力になるこれらのシステムを理解して、新たな脅威から身を守り、問題が起きたときに対応します」
立法措置について問われたジョーンズ氏は、政府は法案の修正案の導入を「検討している」と答え、「その手段としてサイバー法案を使うかどうかを見極めるため、政策を策定しているところです」と述べました。
英国のAI規制は、分野ごとに分散した仕組みを採っています。たとえば情報コミッショナー事務局（ICO）は、データ保護法をAIに適用する際の原則を公表しました。EUのAI法は2024年8月に発効し、新たな権限が段階的に発動されています。米国にはAIを対象とした連邦法はありませんが、一部の州では新たな法律の導入が進んでいます。
月曜日に公表されたAnthropicの研究は、AIモデルがデバイス間で自らをコピーし、侵害したハードウェア上で動作できるかを検証したものです。この予測は、モデルの能力向上を外挿したものであり、実際のIoTデバイスに感染を広げる完全自律型ワームを実証したわけではありません。
コンサルティング大手のブーズ・アレン・ハミルトンも、自律型AIシステムは重要な制御技術（OT）や産業機器を見つけて攻撃し、水道や電力など日常生活に不可欠なサービスへのアクセスを遮断する能力を十分に備えていると警告しました。
これに先立ち、AIリスクの研究者らは委員会に対し、モデル開発者に自主規制を任せるのは信頼できず、国際的なルール作りも根強い政治的対立を乗り越えなければならないと述べました。
非営利の研究機関AI Futures Projectの事務局長ダニエル・ココタイロ氏は、同団体が「最悪ではない案」を提案したと説明しました。
同氏は次のように述べています。「再帰的な自己改善はやめるべきです。業界の透明性を大幅に高め、規制も大幅に強化して、適切な透明性と慎重さをもって開発が進むようにします。これが現時点で市場にある中では最も悪くない案だと考えています。それでも問題は残りますし、実行するにはかなり恐ろしい案であることに変わりはありません」
バーン氏は証言を次のようにまとめました。「業界全体の安全文化は壊滅的で、個々の企業の安全文化も的外れな方向にあり、企業間の競争がこれらのリスクを悪化させていて、企業の自主規制は信頼できない、というのが皆さんの証言でした」®
