RSAC 2026 人工知能Claude悪用してサイバー攻撃を自動化する中国サイバースパイに関するアンスロピック報告書は、元NSAサイバーボス、ロブ・ジョイスによると、情報セキュリティコミュニティの「ロールシャッハテスト」だったという。
「片側には嫌いな人たちがいた」と、現在はDataTribeのベンチャーパートナーであるジョイスはRSACでの月曜日のトークで述べた。「彼らはそれが無意味な気晴らしだと考えていた。別の側では、それを攻撃操作への重要な見識として見ていた人たちがいた。」
ジョイスは後者の側にしっかり立っている。「これを本当に重要な見識のセット、そして本当に恐ろしいものとして見ました。」
北京傘下のスパイたちは典型的な攻撃チェーンを検討し、それを小さなステップに分割してから、エージェントAIを使用してインジェクション試行を実行するためのフレームワークを構築した。エージェントは攻撃面をマッピングし、ターゲット組織のインフラストラクチャをスキャンし、脆弱性を見つけ、さらにエクスプロイトコードの研究と執筆さえ行った。
ネットワーク内に侵入した後、中国のボットは有効な認証情報を発見して悪用し、権限を昇格させ、横方向に移動した。場合によっては、エージェントは機密データを発見して盗むことさえした。
マシンはコードを読むことに疲れません。脆弱性を見つけるまで何度も何度も確認できます
「しかし私にとって一番重要なことは、それが機能したということです。実に機能したのです」とジョイスは述べた。「ツールのセットをもたらし、実世界のターゲットに対して実行され、勝利しました。」彼は、LLMの継続的な改善と、現在は事実上モジュール化されているという事実により、詐欺師が迅速にAIツールを更新できるようになったことから、自動攻撃が「指数関数的に」改善されることを懸念している。
昨年、The Registerとのインタビューで、ジョイスはAIが「間もなく」優れたエクスプロイトコーダーになると述べました。月曜日、彼はセキュリティ専門家とコーダーのオーディエンスに、それは既に起きていると述べた。
利点は？エージェントAIシステムがゼロデイ脆弱性を見つけてマシンスピードでエクスプロイトを開発する能力は、防御者にとっても恩恵になり得ます。
GoogleのBig Sleepなどのプロジェクト、セキュリティ研究者がゼロデイの欠陥を見つけるのを支援するAIエージェントは、広く使用されているOpenSSLライブラリの以前に未知の悪用可能なメモリ安全性の欠陥を含むいくつかを発見しました。OpenAIのCodex（以前はAardvark）は同様にエージェントAIを使用してコード内の脆弱性を検出してパッチし、AnthropicのClaude Code Securityも同様です。
「したがって、脆弱性研究を行うこれら3つの最先端モデル全体で、メジャーなコードで脆弱性を見つけることができることを示しました」とジョイスは述べた。
「長期的には、私たちはより優れたコードを得ます」と彼は続けた。「Google ChromeはGoogle Big Sleepチームの恩恵を受けるでしょう、そして惑星上で最も人気のあるウェブブラウザを悪用することはより難しくなるでしょう。しかし短期的には、大規模なコードベース全体でソフトウェア脆弱性を見つけて脆弱性をエクスプロイトに変える能力があります。それは本当のリスクです。」
ジョイスはセキュリティ研究者のショーン・ヒーランを引用しました。彼はOpenAIの当時のAardvarkプロジェクトを分析し、述べた:
これが現在意味することについては、ジョイスによると、情報の非対称性はマシン攻撃者に有利です。「これはAIが人間より賢いというストーリーではありません。スケールと忍耐力、すべての技術とコンポーネントを見て脆弱性を開発するその能力についてのものです。マシンはコードを読むことに疲れません。脆弱性を見つけるまで何度も何度も確認できます。」
では、防御者にとってこれは何を意味するのか？ジョイスは彼らはセキュリティの基本において「例外的」になる必要があると考えています。
これはコードをレビューしてパターンと動作の異常を検出するAIツールを使用することを意味します。これは攻撃者が正当なツールまたはユーザーを悪意のある目的で悪用していることを示唆する可能性があります。
また、彼は推奨しているように、欠陥と設定ミスを前もって見つけるためにあなたの組織に対してエージェント的なレッドチーミングを開始してください。「支払うかどうかに関わらず、あなたはレッドチームを受けるつもりです」とジョイスは述べた。「唯一の違いは、誰が結果を渡されるかです。」®
