FBI、Anthropic「Mythos」を法執行機関にとっての課題と認識

AnthropicのMythosに見られるようなAIモデルの能力向上について、敵対勢力がこれらの新技術で何をなし得るかをめぐり、法執行機関から懸念の声が上がっていると、FBI当局者が火曜日に述べました。  

トランプ政権は6月、Mythos 5モデルの発表直後に輸出規制を課しました。国家安全保障上の懸念を理由としたものです。同モデルの能力を予告するブログ記事の中でAnthropicは、Mythos 5が「主要なすべてのオペレーティングシステム」において、これまで知られていなかったバグを特定し、悪用できると説明していました。その後数週間のうちに、モデル開発元が政府や他のパートナーとともにガードレールの見直しを進めた結果、規制は解除されました。 

新たな安全対策が追加された一方で、能力向上に伴う警戒感は依然として残っています。  

「Mythosは、あらゆるところに存在するオープンソースコードの脆弱性を発見しました。オペレーティングシステムやセキュリティ、Webインフラ、暗号化といった、私たちの基盤となるコードの大部分に組み込まれているものです」と、FBIの副次官補であるTodd Hemmen氏はDigital Government Institute主催のイベントで述べました。「これは法執行機関にとって今後の課題を突きつけるものです」 

FBIはサイバー攻撃や侵入事案の捜査を主導する連邦機関であり、変化し続けるこの状況の最前線に立たされています。&nbsc;

「脆弱性が明るみに出る可能性を目の当たりにし……今後、敵対勢力によるこの種の事案や悪用が増加していく可能性を理解するというのは、新しい局面です」とHemmen氏は述べました。「まだこれが大規模に実行に移された事例は確認していませんが、いずれそうした時が来ると見ています」

広範なセキュリティ上の意味合いを持つツールに誰もがアクセスできるようになると、容疑者の候補は増え、捜査はより複雑になります。Mythos 5は米国政府が承認した一部のグループのみが利用可能ですが、同じ基盤技術を用いたAnthropic製モデルは世界中で利用可能です。同社はまた、「能力が劣る」モデルでも同様の方法で脆弱性を特定し、悪用できることを確認したとしています。 

「AIは今後、私たちにとって大きな課題をもたらすことになります」とHemmen氏は述べました。 

内部でのAI活用  

AIの進歩がFBIにとっての法執行の状況を変えつつある一方で、この技術は司法省傘下の同組織の内部運用のあり方も変えています。 

「組織として、顔認識技術にAIを活用しています」とHemmen氏は述べました。 

今年初めに公表されたFBIの最新のAI利用事例一覧では、顔認識やその他のデータを使って捜査の手がかりを生成することを目的としたいくつかの新規プロジェクトが示されています。これらの利用事例は「高影響度」に分類されており、権利や安全に法的・実質的・拘束力のある重大な影響を及ぼす判断や行動の主たる根拠となり得るものであることを意味します。

行政管理予算局(OMB)が定めた4月3日の期限にもかかわらず、同一覧によればFBIは高影響度に分類された利用事例のいずれについても、リスク管理要件を完了していません。 

全体として、司法省のこの部門には約50件のAI利用事例があります。FBI職員はこの技術を活用し、犯罪の疑いに関する一般からの通報の選別支援や、裁判所の許可を得た攻撃的作戦の強化、一般的な調査研究など、さまざまな用途に役立てています。 

「私たちはAIを使ってこうした案件の優先順位付けを支援しつつ、実施されるすべての内容を人間がチェックする体制を取っています」とHemmen氏は述べました。