Anthropicの研究者たちは、同社のClaude Mythos Previewモデルが、2つの主要な暗号システムにおいて重大な数学的欠陥を自律的に特定したことを明らかにしました。これらの発見は、長年にわたる専門家の精査でも見逃されていたものです。
最初の成果は、NISTの標準化プロセスで現在第3ラウンドの審査中である耐量子暗号のデジタル署名方式「HAWK」を対象としたものでした。
Mythosは、HAWKの基盤となる格子構造の中に、これまで特定されていなかった「非自明な自己同型写像(nontrivial automorphism)」を発見しました。これにより、同方式の鍵強度が事実上半減することが判明しました。
この発見により、HAWK-256に対する想定攻撃コストは回の演算から回にまで引き下げられました。HAWKはこの結果が出るまでの2年間、既に2回の専門家レビューを通過していました。
2つ目の発見は、モデルが「メビウス・ブリッジ(Möbius Bridge)」と名付けた新しい手法を、世界で最も広く使われている共通鍵暗号であるAES-128の7ラウンド縮小版に適用したものです。
このフィンガープリンティング手法は、既知の中間一致攻撃(meet-in-the-middle攻撃)から総当たり探索の1段階を排除するもので、攻撃速度を200倍から800倍に向上させました。
この攻撃はあくまで理論上のものにとどまっており、個の選択平文が必要となるほか、実際のシステムで使用されているフルラウンド(10ラウンド)の暗号方式には影響しません。
Anthropicは、いずれの結果も現行の実運用ソフトウェアに実質的な影響を及ぼすものではないと慎重に説明しています。HAWKはこれまでどこにも実装されておらず、AESへの攻撃についても、意図的に弱体化させた変種にのみ通用するものです。
両方の成果は、人間による関与を最小限に抑えた、ほぼ自律的なAIのワークフローから生まれました。HAWKへの攻撃には約60時間の半自律的な作業が費やされましたが、担当した研究者が担ったのは暗号技術の専門知識ではなく、プロジェクト管理としての役割でした。
重要な着想は、同じアイデアに取り組む2体のAIワーカーエージェントの協働から生まれました。一方のエージェントが当初はこのアプローチを実現不可能だと退けていたところ、もう一方のエージェントが完全に活用する方法を見つけ出したのです。
AESに関する発見は、さらに変わった経緯をたどりました。Mythosは当初この問題への取り組みを拒み、AESは「本当に難しい(genuinely hard)」、そして現存する最も研究が尽くされた暗号方式に「見つけられるような容易な糸口はない(nothing easy to find)」と主張していました。
これに対し研究者たちは、あえて簡単な結果で妥協するのではなく、真に新しいアイデアを探すようモデルを促す、くだけた口調でタイプミスも交じったプロンプトを投げかけました。
これを受けてClaudeは自らの実験用ハーネスを書き換え、その後3日間、およそ10億の出力トークンを費やして、独力でメビウス・ブリッジ手法にたどり着きました。この2つの主要な成果には、それぞれ約10万ドルのAPI計算コストがかかりました。
Anthropicはまた、ISOで標準化されたシステムに使われる軽量暗号「LEA」の13ラウンド版に対する実用的な攻撃をはじめ、Serpent-128、Salsa20、Poseidon、SHA-1に対する小幅な改良など、いくつかの小規模な予備的成果も公表しています。
これらはいずれも直ちに実際のリスクをもたらすものではありませんが、AIモデルが本格的な暗号解読の領域へと着実に守備範囲を広げつつあることを示しています。
この傾向を広く研究コミュニティで追跡できるよう、Anthropicはチューリッヒ工科大学(ETH Zurich)、テルアビブ大学、ハイファ大学と提携し、大規模言語モデルが幅広い暗号方式に対してどの程度の性能を発揮するかを評価するためのベンチマーク「CryptanalysisBench」を公開しました。
Anthropicは一連の過程を通じて責任ある開示手続きに従い、HAWKの考案者らと連携するとともに、公表に先立って政府機関や業界のパートナーへの説明を行いました。
同社はこれらの発見について、敵対的な暗号レビューが意図通りに機能した好例だと位置づける一方で、AIによる暗号解読能力が今後さらに向上するにつれ、実運用において本当に重大な意味を持つ暗号システムの欠陥をモデルが発見してしまう事態への備えが必要になると警鐘を鳴らしています。それは、人間による検証と対応の能力を早晩上回りかねない課題です。
SOCの調査における死角を削減し、ANY.RUNで脅威をより早期に封じ込めることで、対応コストと業務への支障を軽減できます。
翻訳元: https://cyberpress.org/claude-ai-autonomously-discovers-cryptographic-weaknesses/
