米サイバーセキュリティ・インフラセキュリティ庁(CISA)が、Anthropicの高性能AIモデル「Mythos」を用いて連邦政府のソフトウェアをスキャンし、セキュリティ上の脆弱性を監査していることが、Reutersの報道で明らかになりました。
事情に詳しい関係者3名の証言を引用し、Reutersは報じました。それによると、CISAは連邦政府機関全体のコードリポジトリをスキャンする目的でMythosを活用しているとのことです。この取り組みは、外国の諜報機関やサイバー犯罪者に悪用されかねないセキュリティ上の不具合を、先手を打って発見・修正することを狙いとしています。
この監査を主導しているのは、CISA内でデジタル防御評価や模擬ハッキング演習を連邦政府全体で実施する専門チーム「Attack Surface Evaluation」だと報じられています。関係者2名によれば、このAI主導の取り組みによってすでに「多数の」ソフトウェア脆弱性が発見されているといいます。ただし、脆弱性の深刻度、影響を受けた機関、あるいは審査対象となったソフトウェアの規模といった具体的な詳細は明らかにされていません。
AnthropicとCISAはいずれも、この取り組みについてReutersに対し正式なオンレココメントを提供していません。
AnthropicとトランプMプ政権当局との間の緊張は今年初め、同社が自社モデルに組み込んだ安全対策の撤廃要求を拒否したことをきっかけに急激に高まりました。この安全対策は、同社モデルが自律型兵器や国内監視に利用されることを制限するものです。これを受けて国防総省はAnthropicをサプライチェーン上のリスクに指定しました。これは通常、スパイ活動が疑われる外国企業に対して用いられる分類です。
国家安全保障局(NSA)も、業務にMythosを利用しているとみられています。
先月下旬には、米政府当局者がAP通信(Associated Press)に対し、Anthropicのある人工知能モデルが試験運用中に、極めて機密性の高い米政府のコンピューターシステムで脆弱性を発見したと明らかにしています。
米国の情報機関・国防コミュニティ内ではMythosの非公開運用が加速する一方、Anthropicの一般公開版の展開は、それとは別の規制上の攻防を引き起こしています。同社が6月初旬に、「Fable」と呼ばれる本モデルの公開版をリリースした際、外国籍のユーザーがこのツールにアクセスできることをホワイトハウスが懸念し、アクセス制限を求める要求が突如発せられました。この対立の結果、Fableモデルは一時的に世界規模で停止されましたが、先週になってようやく解除されました。
詳細はAI Risk Summit(Ritz-Carlton, Half Moon Bay)にて
