月例動画シリーズ「Reporters’ Notebook」の最新回では、Dark ReadingのAlexander Culafi氏、TechTarget CybersecurityのAlissa Irei氏、そしてCybersecurity DiveのDavid Jones氏が、AnthropicのClaude Mythosモデルを巡る過熱ぶりと、強力な脆弱性発見型大規模言語モデル(LLM)がもたらす長期的なセキュリティへの影響について議論します。
Mythosは4月に発表されたAnthropicの新しいフロンティアモデルであり、特にそのサイバー能力の高さが注目を集めました。Anthropicによれば、Mythosはほとんどプロンプトを与えなくても、数十年前のソフトウェアであっても重大なゼロデイ脆弱性を発見・悪用できるとされています。こうした技術が攻撃者の手に渡る危険性から、Anthropicは「Project Glasswing」を立ち上げ、選ばれたパートナーにのみプレビュー版として同モデルを共有すると発表しました。Mythosとその安全版であるClaudeFable 5は6月に展開されましたが、後者については研究者が悪用可能な安全対策のバイパス、いわゆる「ジェイルブレイク」の可能性を指摘したことを受け、米国が一時的に輸出禁止措置を取り、モデル自体も世界的に一時停止される事態となりました。
Mythosの展開がどれほど自己宣伝的なものだったのかという疑問はあるものの、発表後に沸き起こった熱狂的な議論は否定のしようがありません。多くのセキュリティ業界の著名人が「Mythos対応」への備えを組織に呼びかけ、ホワイトハウスもサイバーセキュリティ政策を強力な脆弱性発見型AI能力を軸に再編しました。
今回の動画シリーズでは、記者陣がMythosのこれまでの経緯を振り返りつつ、その謳われている能力をどこまで信じているか、そしてセキュリティ業界がこれからどこへ向かうのかについて語ります。
詳しくは動画をご覧ください。また、Reporters’ Notebookシリーズの全編はこちらからご覧いただけます。このシリーズは、Informa TechTargetのサイバーセキュリティ系列サイト群からの知見と報道を横断的にまとめることを目的としています。
Alex Culafi、Alissa Irei、David Jones:動画全文書き起こし
この書き起こしは、Informa TechTargetの社内AIアシスタントおよび編集者により、分かりやすさ・読みやすさ・長さの観点から編集されています。完全な内容については動画をご覧ください。
Dark ReadingのAlex Culafi氏: 皆さん、こんにちは。Cybersecurity Dive、TechTarget Cybersecurity、Dark Readingの編集者・記者による最新のReporters’ Notebookにご参加いただき、ありがとうございます。Dark Readingのシニアニュースライター、Alex Culafiです。本日は以下のお二方にご参加いただいています——
Cybersecurity DiveのDavid Jones氏: Cybersecurity DiveのDavid Jonesです。
TechTarget CybersecurityのAlissa Irei氏: TechTarget CybersecurityのAlissa Ireiです。
DRのAlex Culafi氏: 本日は、AnthropicのClaude MythosAIモデルと、これまでの経緯を巡る一連の熱狂的な騒動について議論したいと思います。Mythosは4月にプレビュー版として発表され、Anthropicはこの大規模言語モデルが非常に高い脆弱性発見・悪用能力を持ち、単独で数十年前から存在する人気ソフトウェアの重大な悪用手法を発見できると主張していました。
こうした危険性が想定されたことから、同社はProject Glasswingという副次的な取り組みを開始し、サイバーセキュリティのパートナーに先行アクセスを提供する一方、Mythosが脅威アクターに悪用される可能性を抑えようとしました。Glasswingの枠内であっても、アクセスは各組織間で制限・監視されていました。
6月には、Mythos PreviewがMythos 5となり、より多くの早期アクセスパートナーに提供されました。依然として制限は設けられていましたが、これと同時に、サイバーセキュリティや生物学といった機微な作業を行わない、より安全で一般公開されたMythosの版であるClaude Fable 5も導入されました。
その後まもなく——FableとMythosが一般公開されてから1日か2日以内だったと記憶していますが——ホワイトハウスは、ジェイルブレイクによってFableのガードレールが回避されたとの報告を受け、Anthropicの従業員も含む米国籍以外の人物によるMythosとFableへのアクセスを制限しました。これによりAnthropicは一時的に全ユーザーに対してMythosとFableへのアクセスを無効化しましたが、数週間後には米国政府が制限を解除し、事態はおおむね正常に戻っているようです。
多くのセキュリティ専門家は、Mythosがセキュリティ脆弱性を巡る状況を根本的に変える可能性を持ち、各組織はセキュリティプログラムを根本から再構築する必要があると述べています。
そこで本日は、これまでのMythosを巡る騒動について、現時点での所感を確認していきたいと思います。
最初の質問です。皆さんのご意見を伺いたいのですが、まずはDaveさんから。Mythosを巡る一連の騒動について、全体的にどのような印象をお持ちですか。このニュースをどう捉えていますか。
CDのDavid Jones氏: そうですね、私が当初からAIに対して抱いていた懸念は、大手企業や政府、重要インフラ事業者が、事業運営能力の加速や生産性向上、スケジュール短縮のためにAI活用に強い関心を持っている一方で、そこに緊張関係があるという点です。
問題は、取り残されたくないという皆が感じているプレッシャーが、安全かつ慎重に取り組むために必要なガードレールの整備を追い越してしまっていることです。
そして往々にして起こるのは、セキュリティ上のガードレールが整っていない場合、「これは巻き戻す必要がある。速度を落とすべきだ」と肩を叩いたり、様子を見守ったりする立場の人たちが、潜在的なリスクの実態に気づく頃には、すでに手遅れになっているというケースです。
例えば、加速度的なペースで脆弱性を発見できるようになったとします。まず、何を優先的に対応すべきかを誰かが判断しなければなりません。そして、何かを発見した際に、実際にそれを修正する作業は誰が行うのでしょうか。
誰かがその作業を実行し、誰かが「一定期間内に数千件の脆弱性が見つかりました。どこから手をつけますか。最も重要なのは何ですか。何を優先すべきか、どう判断しますか」と関係者に伝える必要があります。
こうした点をきちんと整理していなければ、多くの人がやみくもに忙しく動き回るだけで、自分たちが何をしているのか本当には理解できないまま終わってしまいます。火はどんどん燃え広がっていくのに、どこから消し始めればよいのか分からなくなってしまうのです。
TTCのAlissa Irei氏: その点には同意します。ここまでのところ、AIの技術やリスクは、Daveが指摘したような脆弱性管理、パッチ管理、既存のリスク露出、ID・アクセス管理、信頼といった既存の課題を増幅させているように見えます。
人間のユーザーが業務に必要な資産だけにアクセスできるようにするだけでなく、今後はエージェント型AIのユーザーについても同様に管理する必要があります。それをどう実現するかが問われています。
大局的な視点で今後どうなるかについては、誰にも分からないというのが正直なところだと思います。楽観的な部分では、これは防御側にとって助けになるかもしれないと考えています。というのも、脆弱性の津波がすでに押し寄せ始めている一方で、同じ技術を防御側として活用すれば、これまで人間が担ってきたよりも戦略的に脆弱性管理や修正の優先順位付けを行える可能性もあるように思えるからです。
セキュリティチームがすでに過重労働・人員不足・余力のない状態にあることは分かっていますし、それはAI以前からの話です。ですので期待はしています。実際にそうなるかは分かりませんが、最良のシナリオでは、こうしたチームがAIを活用して企業の安全性を高められるかもしれません。
もちろん、脅威アクターもこうした技術の多くにアクセスできます。実際のMythosモデルにはまだアクセスできていないとしてもです。
Alex、あなたはどう思いますか。
DRのAlex Culafi氏: B2B業界に対する根本的な不信感があるので、Mythosについて誰かが何かを言うたびに非常に懐疑的になってしまいます。
私たちがいるのはB2Bの世界ですから、誰もが何らかの意図を持ってお金を稼ごうとしています。それ自体は構いません。この業界がそういうものだと分かっていますから。皆お金を稼ごうとしていますが、同時に最高のセキュリティソリューションを提供しようともしているのでしょう。
AIがMythosの説明するようなことを実際に行っているとしても、驚きはありません。昨年DEF CONに参加しましたが、DARPAはここ2、3年、若手や新しい人材を育成しながら、基本的にAIによる脆弱性発見能力を開発してきています。つまり、こうした技術は以前から進められてきたものなのです。
仮に私たちが何らかの崖っぷちに立たされているのだとしても、それがAnthropicによるものであろうと他社によるものであろうと、さほど驚きはありません。
私が不信感や懐疑心を抱いているのは、Anthropic自身のブログ投稿以外に、これがどれほど強力なのかを正確に把握できていない点です。それ自体、興味深い話だと思いませんか。
もう一つは、仮にAIが自然言語プロンプトを通じて重大な脆弱性を発見できるのだとして、それができるのは本当にMythosだけなのかという点です。中国系のモデルの一部にも、そうした能力があるのではないでしょうか。
聞くところによると、こうした中国系モデル——一部の競合——はMythosに後れを取っているものの、その差はせいぜい6か月程度だそうです。この種の技術が、仮に今はAnthropicだけが持っているものだとしても、それがずっとAnthropic独占のままであり続けることはないでしょう。
ですので、ホワイトハウスによる禁止措置やその他諸々の動きを見ていると、正直、彼らは誇張しているのではないかという反射的な反応をしたくなる自分もいます。B2Bならではの振る舞いとして、ビジネス上の動機に基づいた多少の危機感煽りをしているのではないか、と。
一方で、まだそこまで達していないとしても、近いうちにそうなるだろうとも思っています。
正直分かりません。お二人は私に同意しますか、それとも違いますか。
TTCのAlissa Irei氏: とても良い指摘だと思います。一方では、Anthropicに限らず、どこかのAIプロバイダーからこうしたニュースが出てくることは、以前から予想されていたことです。
他方で、興味深い力学があるとも思います。彼らはMythosの超人的な能力を大々的に、かつ声高に喧伝していますが、実際にそれにアクセスできる人はほとんどいません。ですから、Anthropic自身かAnthropicのパートナー——ごく短いリストの人々——以外は、誰もそれを検証できないのです。
Ciscoは、Mythosの利用によって驚くべき成果が得られたと公表しています。しかし、少なくともこのプロジェクトの文脈においては、Ciscoも定義上パートナーの立場にあります。
Anthropicは一企業であり、技術的な目標だけでなく、広報やマーケティング上の目標も持っています。ですから私もあなたと同じ考えです。このプロジェクトの条件や非公開の性質、参加者リストの短さなど、これらすべてが都合よくできすぎているのではないかと、行きつ戻りつ考えてしまいます。
もう一つ考えていることがあります。彼らはこの件について静かにしておくこともできたはずです。今回のように公表するタイミングでする必要がなかった発表が、実際にはかなり多かったと言えるでしょう。
とはいえ、中国が肉薄しているという話や、OpenAIも同様のプロジェクトに取り組んでいるという話も耳にしています。
ですから、自分がどちらの立場なのか正直分かりませんが、あなたの懐疑心には全般的に共感します。
DRのAlex Culafi氏: なるほど。
CDのDavid Jones氏: 考えてみてください。もしあなたが新しい超兵器を作り、高度6万フィートを飛行する航空機を数分以内に撃墜できる、この兵器を出し抜ける軍用爆撃機や戦闘機は存在しないと言い続けたとします。
ある時点で、それを実際に展開し、現実世界でテストする必要が出てきます。的中するか外れるか、そのチャンスは一度きりであり、当然反発も生じるでしょう。
Anthropicのように、シミュレーション環境でこうしたモデルをテストしている場合、ある時点で、複数の当事者が存在する現実世界のシナリオ——一方が何かを作り出そうとし、もう一方がそれに対応する能力を持つという状況——でそれを実証する必要が出てきます。
打ち出している誇大な宣伝に見合う結果を出せるかどうかはさておき、ある時点で必ず試される時が来ると思います。実際にこうした脆弱性を発見し、それを緩和する方法を見出せることを示さなければならなくなるでしょう。
そして、脅威アクターはすでに、人間がパッチを当てるより速いペースで脆弱性を作り出すことにかなり長けています。こうしたモデルは、いずれ実力を示し、能力が高く動きも速い攻撃者を実際に出し抜けることを証明しなければならなくなるはずです。
すでに、脅威アクターがMythos以外のAIを活用し、私たちが現在対応できる範囲を上回る状況を作り出し始めているのを目にしています。ですから、数か月後には——すでにこうした警告は出ていますが——現実世界での試練が訪れることになるでしょう。
TTCのAlissa Irei氏: それは非常に良い指摘だと思います。
少し余談ですが、Mythosではない、フロンティアモデルの応用でもない、すでにAIを兵器化した技術が存在します。
トロント大学の研究室内にとどまったAIワームの事例を見た記憶があります。しかし、私たち全員がアクセスできるAI——オープンソースモデルであり、必ずしもMythosではないもの——を使った攻撃は、すでに可能になっています。
ですので、Daveの指摘に補足する形になります。
DRのAlex Culafi氏: さらに言えば、既存の一般公開されているAIを使い、マルウェア開発から攻撃全体の指揮まで、最初から最後まで完結させた攻撃者の事例もいくつか存在します。
先週も一つ事例がありました。確かCygniaだったと思いますが、単独の攻撃者がAWSの顧客環境全体を侵害した事例を発表していました。AWS自体ではなく、AWSの顧客企業です。
攻撃者は、入手できた平文の認証情報一組をAIに指揮させ、そこから得られる限りの情報を引き出し、組織内部へとどんどん深く足がかりを広げていき、最終的には身元不明のこの被害者から金銭的な脅迫を成功させるまでに至りました。
それ以外でも、フィッシング攻撃について言えば、たとえ英語が母語でなくても、今では英語のメールを送りたい相手に対して、きれいな文面のメールを書けるようになっています。
Webブラウザにアクセスできれば、狙った相手に完璧かつもっともらしい文面を用意することは、もはや難しいことではありません。奇妙な話ですよね。
Dave、あなたが言っていた「超兵器」という考え方に話を戻したいのですが。
Alissa、あなたとはすでに少しこの話をしましたが、Daveはどう考えているのか気になります。
これまで見てきた情報を踏まえて、Mythosは本物だと思いますか。それとも、私たちと同じように、多少の懐疑心を持っていますか。
CDのDavid Jones氏: その会社には売り込みたい製品があるという意味では、少し懐疑的です。ですから、当然その能力を宣伝することに利害関係があります。
同時に、彼らが作り出したものが、自分たちで抑え込み、制御できる範囲を多少超えている可能性があることも、ある程度示されています。
彼らがやろうとしているのは、最も現実に近いシナリオでこれを試せるような、いわばサンドボックス環境を用意することです。金融機関やサイバーセキュリティ企業など、高度で機微な組織を模したモデルを作り、こうしたテストやサンドボックス環境に参加する企業を集めているのです。
そうすることで実際に、「このスピードでこれらの脆弱性を発見できます。どれだけ速くこれを武器化できるかも判断できます」ということを示せるようになるでしょう。
そして誰かが立ち返って、「脆弱性の所在が分かったところで、この製品が環境に対してどれだけのアクセス権を持っているのか」を確認する必要が出てきます。
問題の一端は、IT環境に対して広範なアクセス権を持つ製品が存在し、それらがほぼすべてのものにアクセスでき、瞬く間にシステムの制御を奪えてしまう点にあります。
彼らは近いうちに——おそらく数か月以内に——この展開をどこまで制御できるのかを見極めるよう迫られることになると思います。
私たちが知らないだけで、米国や中国以外の場所で、これに代わる別バージョンに取り組んでいる企業が存在するかもしれません。数か月のうちに、Mythosや中国の取り組みに対抗できる存在が出てくる可能性もあります。
脅威アクターも、入手できる情報をすべて集めながら、「こちらの製品に対する我々なりの対応策がある」と考えているはずです。
誰もが自分たちの利害に応じて動いています。ですが、新たに登場する技術それぞれに対して、おそらく別の見えない誰かが対抗策を開発しているものだということは、すでに分かっている話です。
ですから、それほど遠くないうちに私たちにも分かるようになると思います。
DRのAlex Culafi氏: そうですね。私が繰り返し考えてしまうのは、すでに脅威アクターがCobalt Strikeのような正規のレッドチームツールを使って環境を侵害しているという点です。
Mythosの脅威は、Cobalt Strikeよりも優れていて、かつ使いやすいという点にあると思います。仮に技術的な能力がさほど高くない人物がこれを手に入れれば、超兵器並みの能力を持ってしまうことになります。これこそが恐れられている点だと思います。
残る一つの疑問——まずはAlissaから伺いたいのですが——組織はどう備えるべきでしょうか。
というのも、現時点でMythosがどこまで脅威なのか、あるいは数か月後にどれほどの脅威になるのか、もしくは日和見的な攻撃者がいつこれを手に入れるのかは、正確には分からないからです。
それでも、こうしたものが現実のもの、あるいは現実になりつつあるものだということは間違いなさそうです。皆さんはどうすべきだと思いますか。
TTCのAlissa Irei氏: 良いニュースであり悪いニュースでもあるのですが、答えはかなり地味なものだと思います。
TechTarget Cybersecurityでもかなり取り上げてきましたが、今回改めて緊急性を帯びているのは、実は昔ながらの課題です。パッチ管理、脆弱性管理、そしてユーザーが適切なパスワード運用を実践しているかどうかといった点です。
長年語られてきたゼロトラストのようなものも重要だと思います。多くの組織は、環境全体にわたってゼロトラストを本当の意味で導入できていません。
エージェント型AIが環境内に存在する場合——おそらく気づいていなくても大抵は存在しているはずですが——ID・アクセス管理が非常に重要になります。
ですから、こうしたサイバーセキュリティの基本を徹底することこそが、最も始めやすく、ある意味で唯一の出発点だと思います。なぜなら、これらに対応できていなければ、たとえMythosが本命だったとしても、あるいはもう少し先に登場する何かだったとしても、見通しは決して明るくないからです。
こうした基本をすべて本当の意味で押さえられている組織は、実際には稀です。ですから、専門家がCISOに勧めている出発点はまさにそこであり、取り組むべきことはまだたくさんあると思います。
それに加えて、もしリソースに余裕のある組織であれば、防御的なAI能力について情報を収集し、ベンダーと話をするのに良い時期だと思います。まだ購入を決断する段階ではないにしても、何が可能なのかを注視し、組織として防御目的でAIをどう活用できるかを把握しておくべきです。
これは必要なことですし、今後さらに必要になっていくと思います。
DRのAlex Culafi氏: なるほど。Daveはどうですか。
CDのDavid Jones氏: 見落とされがちなのは、ガバナンスとガードレールの部分だと思います。
AI活用に積極的な企業で、競合に取り残されたくないという競争意識に駆られているとしたら、そもそもなぜAIが必要だと思っているのか、本当に理解できているでしょうか。AIの目的は何なのか、AIが自社にとってどのような役割を果たすべきなのか、把握できているでしょうか。
組織としてフロンティアAIモデルの試験導入を始めるにあたって、思い通りにいかない結果に対応できるインフラは整っているでしょうか。
この技術がどのように利用されるか、誰がアクセスできるのか、どのように実装するのか、ルールはどうなっているのか——こうした点をある程度制御し続けるための人員とリソースを確保できているでしょうか。
例えば、AIの導入に対抗する形で悪意ある攻撃者が反撃してきた場合、誰が対応の責任を負うのか、把握できているでしょうか。
こうした二次的な問いの数々が、本当に十分検討され、事前に想定されているのか、疑わしいと感じています。
誰もが「自社のセキュリティ能力には最大限の自信がある」と言います。しかし、CEO、CISO、そして現場の従業員をそれぞれ別々の部屋に呼んで尋ねれば、聞く相手によって全く異なる答えが返ってくるかもしれません。
こうした議論をすべき立場の人たちが、実際にそれを行っているのか、あるいはその議論がきちんと聞き入れられているのか、私には必ずしも明らかではありません。
DRのAlex Culafi氏: お二人の意見にはすべて同意します。
一つ付け加えるとすれば、MythosとProject Glasswingが発表された週末に、Cloud Security Allianceからある報告書が公開されたことです。
基本的に、あの週末のうちに、サイバーセキュリティ業界の錚々たる面々が集まり、「Building the AI Vulnerability Storm: Building a Mythos-Ready Security Program」という報告書をまとめました。それほど長くはありませんが、非常に有益な内容です。
4月というと随分昔のことのように感じますが、そこに書かれている助言の多くは、今なお実践的で有効だと思います。というのも、攻撃者の視点から見たMythosの多くの部分は、依然として非常に理論的な段階にとどまっているからです。
AIに関わるセキュリティ問題の多くは、結局のところ強固なセキュリティの基本を超えるものではありません。データセキュリティプログラムを整備すること、認証をきちんと管理すること——Alissaが指摘していたような、同じ地味な取り組みの積み重ねなのです。
Mythosに備えるという考え方自体は、実は何も変わっていません。ですから、意外に思われるかもしれませんが、3か月前に書かれた報告書は今でも十分に通用します。
それでは、本日はありがとうございました。Alissa、Dave、貴重なお時間をいただき感謝します。
視聴者の皆さん、Dark ReadingのAlex Culafiでした。TechTarget CybersecurityのAlissa Ireiさん、Cybersecurity DiveのDavid Jonesさんにご参加いただきました。ご視聴ありがとうございました。また次回お会いしましょう。
翻訳元: https://www.darkreading.com/cybersecurity-operations/claude-mythos-hype-vs-reality
