フロンティアAI企業のAnthropicは火曜日、Claude Mythos Previewを用いて2つの暗号方式に新たな弱点を発見したと発表しました。そのうちの1つは、米国立標準技術研究所(NIST)が従来型コンピュータと量子コンピュータの双方を対象に検討している方式です。
この取り組みの詳細を記したブログ投稿の中で、同社はこれを「大きな」研究成果だとしながらも、いずれの欠陥も現在使用されているソフトウェアには影響しないと強調しています。
「これら2本の論文で説明されている攻撃は、これまでに見つかった中で最も強力な攻撃です」と同社は投稿で述べています。
発見された弱点の1つは、量子コンピュータによる攻撃にも耐えうる暗号方式を模索するNISTの審査を受けているデジタル署名方式HAWKにありました。人間の研究者と共同で作業を行ったAIシステムは、HAWKが依拠する格子構造(その安全性を支える複雑な数学的グリッド)の中に、非自明な自己同型と呼ばれる数学的な近道を発見しました。
この発見された弱点により、HAWKの実効的な鍵強度は半分にまで低下します。つまり同じ水準の安全性を維持するには、鍵サイズを倍にする必要が生じるということです。Anthropicによれば、この変更はそもそもHAWKを有力な候補にしていた魅力の多くを失わせることになるといいます。
デジタルIDと暗号管理を手がけるKeyfactorで戦略・AIイノベーション担当上級副社長を務めるEllen Boehm氏はCyberScoopに対し、Anthropicによる今回のような研究は、NISTのPQC(耐量子暗号)評価プロセスが機能していることを裏付けるものだと語りました。
同氏はまた、この研究について「企業が自社内のどこに暗号が使われているのか、それがどのビジネスシステムやプロセスに結びついているのかを可視化することの重要性を高めるものであり、まだPQC対応計画を策定していない企業には、その必要性を改めて示すものだ」とも述べています。
もう1つの欠陥は、NISTが2001年に採用し、通信中のデータを暗号化する手法として最も広く使われている暗号方式、Advanced Encryption Standard(AES)の弱体化版で発見されました。Mythosはほぼ単独で作業を進め、「メビウス・ブリッジ」と名付けられた数学的な近道を編み出しました。実際の暗号化ではデータを10段階の連続した層、いわゆる「ラウンド」でスクランブルしますが、研究者たちは安全マージンを測定するために、簡略化された7ラウンド版のテストをよく用いています。従来の理論的攻撃では、暗号解読者はメモリテーブルと照合するために256個の個別の値を確認する必要がありましたが、Mythosはこの照合プロセスを完全に不要にする近道を作り出しました。
他の最適化と組み合わせることで、この発見により、7ラウンドAESに対する既知の理論的攻撃としては最強のものが、従来より200倍から800倍高速になりました。もっとも、この攻撃はあくまで理論上のものです。実行には4000垓(4×10の29乗)通りを超えるメッセージという、実現不可能な量の対象データが必要であり、日常的なソフトウェアを保護している完全な10ラウンド暗号化には手が届きません。さらにAnthropicは、実際の運用システムは完全に安全なままであると指摘しています。
Anthropicは、標準的な情報開示手順に従ったとしています。6月にHAWKの設計者に通知し、NISTのメーリングリストと連携して公表のタイミングを調整するとともに、事前に政府機関や業界パートナーへの説明も行いました。また、他の研究者がAIシステムが様々な暗号に対してどの程度の性能を発揮するかを測定できるよう、共有テストツール「CryptanalysisBench」の構築に向けて、チューリッヒ工科大学(ETH Zurich)、テルアビブ大学、ハイファ大学の研究者とも協力しました。
今回の発見は、あらゆる種類のソフトウェアの脆弱性を発見するために、サイバーセキュリティ研究者がフロンティアAIモデルを活用し始めている中で明らかになったものです。6月には、Five Eyes(ファイブ・アイズ)同盟の情報機関が、サイバー領域に大混乱をもたらしかねない高度なAIモデルの登場は「あと数か月」に迫っていると警告していました。しかし最近のある報告書では、脆弱性が次々と発見される一方で、インターネット全体の脅威レベルは実質的に変化していないことが分かっています。
Anthropicは、同様のAI能力が最終的には現在広く使われているシステムにも適用されるようになると見込んでおり、それに伴い、まだ解決していない別の問題も浮上していると述べています。それは、もし言語モデルが重要インフラを守る暗号システムに欠陥を発見した場合、研究者や企業、政府はどう対応すべきかという問いです。
「暗号解読の成果がますます強力になっていく中で、攻撃が現実世界に即座に影響を及ぼしうる暗号システムにおいて、言語モデルが脆弱性を発見した場合に研究者がどう反応すべきかを、慎重に検討しておくことが賢明でしょう」と同社は記しています。「私たちのこの取り組みが、こうした議論のきっかけとなることを願っています」
Boehm氏は、Anthropicによる今回のような取り組みは、企業がセキュリティ体制のいかなる側面についても、現状に安住してはならないことを改めて示すものだと述べています。
「AIは、ソフトウェアの品質保証やコード開発、そして今回のような暗号解析など、多くの分野で強力なツールになりつつあります」と同氏はCyberScoopに語りました。「AIツールがより広く、継続的に利用されるようになるにつれ、企業は自社の信頼基盤(トラスト・インフラストラクチャー)を、数年ごとに新しい暗号アルゴリズムが登場したときだけ見直せばよい静的な環境と捉えるのではなく、継続的かつ運用的な観点で管理していく必要性が一層高まっています」
翻訳元: https://cyberscoop.com/anthropic-claude-mythos-encryption-flaws-hawk-aes-pqc/
