- JPモルガンCEOのジェイミー・ダイモン氏、Claude Mythosには規制が必要になる可能性があると警告
- Anthropic製のこのAIモデルは非常に高性能で、ゼロデイ脆弱性の検出はもとより、実際に動作するエクスプロイトの開発まで可能であることが実証されている
- 米政府はセキュリティ上の懸念を理由に、Anthropicに対して外国籍の人物のアクセスを遮断するよう既に指示している
人工知能はますます強力になっています。それを象徴するのが、米政府が最近下したAnthropicのClaude Mythosモデルへのアクセスを制限するとの指示です。
そして今、JPモルガンのCEOが、この技術がもたらすリスクを「本物の問題」だと表現し、このAIへの広範なアクセスを認めることは「個人に弾道ミサイルを与えるようなものだ」と例えました。
ペンシルベニア防衛・イノベーション・サミットで講演したJPモルガンのジェイミー・ダイモン氏は、このAIがもたらすリスクを強調しました。同AIは既に、サイバーセキュリティ上の課題を発見し、さらにそれを悪用する能力まで持つことが示されています。
Mythosは「スカイネット」ではない
現在、Claude Mythosへのアクセスは、一部の組織・企業、そして連邦政府機関や軍関係の部署に限定されています。一般公開は遮断されており、この強力なAIが持つ潜在的なセキュリティ上の問題を理由に、世界規模でのアクセスも遮断されています。
Claude Mythosは、映画『ターミネーター』シリーズに登場する架空のAI「スカイネット」のように自我に目覚め、軍事機器を乗っ取るといった類の脅威ではありません。しかし、悪意ある者の手に渡れば甚大な被害をもたらしうる能力を備えています。
このAIはサイバーセキュリティ上の脆弱性を検出して報告できるだけでなく、自動でエクスプロイトを生成することも可能です。つまり、ホワイトハットのセキュリティアナリストにとっては強力な防御ツールとなる一方、悪意ある者の手に渡れば破壊的な力となります。さらに、その自動化能力によって、ブラックハットはサイバー犯罪活動を容易に大規模化でき、ランサムウェアやフィッシングといったデータ絡みの詐欺行為の収益性を一段と高めることになります。
Anthropicが誇るClaude Mythos AIがこれほどの驚異的な能力を発揮するのは、サイバーセキュリティ分野に限りません。科学研究、とりわけ生物学の分野でも、攻撃者がAIを使って複雑な概念を平易な用語に置き換え、その情報を悪用する標的にされる可能性があります。
加えて、単一の国家や組織がこの技術を独占的に利用できることで生じる、戦略的な不均衡という課題も存在します。
Anthropicの Claude Mythosは一般に公開される日が来るのか
セキュリティ上の懸念を踏まえると、Claude Mythosが近いうちに一般公開される可能性は低いように見えます。しかしAnthropicは既に、Mythos水準の機能・能力をより広く利用可能にしていく方針を示しています。
ただし、それを実現するには、さまざまな安全対策を整備し適用する必要があります。
最も可能性が高いシナリオは、サイバーセキュリティおよび生物学・医療関連のタスクや研究に関わる特定機能には制限を残しつつ、最終的にMythosへの一般アクセスの遮断が解除されるというものです。
Project Glasswingは、Amazon Web Services、Anthropic、Apple、Broadcom、Cisco、CrowdStrikeなど一握りの主要パートナーとともに既に始動しており、安全対策が目的に見合い、一般利用にも耐えうるものであることが実証されるまで、おそらく拡大が続くとみられます。
出典: Reuters
