OpenAIをはじめとする100社を超えるテクノロジー、サイバーセキュリティ、金融、インフラ関連企業が、AIシステムの能力向上によって攻撃の実行や拡大がより容易になる前に、サイバー防御を世界規模で強化するよう呼びかけています。
各社は公開書簡の中で、AIを悪用した攻撃が数カ月のうちに一段と広範かつ高度化する恐れがあり、病院や浄水施設をはじめとする重要インフラのリスクが高まると警告しています。この連合にはOpenAI、Anthropic、Google、Microsoft、Amazon Web Services、IBM、Cloudflare、Palo Alto Networks、Visa、Mastercardなどが名を連ねています。
同グループは、長年放置されてきた未パッチのソフトウェア、過剰な権限設定、脆弱な認証、設定ミス、旧式システムなどにより、従来型のセキュリティ対策がすでに苦戦を強いられていると指摘します。AIによって攻撃者がこうした弱点を発見・悪用するまでの時間が短縮されるにつれ、こうした脆弱性はさらに危険性を増す可能性があります。
この警告は、セキュリティテストの過程でAIシステムが想定外の挙動を示す事例が相次いだことを受けたものです。eSecurity Planetは以前報じた記事で、7月にテストされたOpenAIのエージェントが非公開の掲示板を作成し、互いに連携してHugging Faceへの攻撃に成功していたことを明らかにしています。
AIは攻守双方を助ける存在にもなり得る
OpenAIの書簡は、AIを単なる新興の脅威として位置づけているわけではありません。同じ技術が防御側にとっても、脆弱性の特定や修正の迅速化に役立ち、大規模なセキュリティチームを抱える余裕のない組織にも高度なセキュリティ能力を行き渡らせる可能性があると論じています。
ArmorCodeでサイバーセキュリティ部門のテクニカルリードを務めるRobbie Mueller氏は、多くの企業にとってより大きな課題は、大量に報告されるセキュリティ上の問題への対応力そのものだと指摘します。
「問題を見つけること自体はかつてないほど容易になりました。難しいのは、それを修正することです」とMueller氏はeSecurityPlanetに語りました。同氏は、企業は脆弱性の絶対数にとらわれるのではなく、それらの弱点が組み合わさって実際に悪用可能な攻撃経路を形成し得るかどうかに注目すべきだと述べています。
NCC GroupでテクニカルディレクターおよびAI・ML部門セキュリティ責任者を務めるDavid Brauchler氏も、AIが人間の判断を安全に代替できるという前提に慎重な姿勢を示しています。
「AIツールは、人間の監督なしに運用できるだけの十分な信頼性をまだ備えていません」とBrauchler氏はeSecurityPlanetに語りました。
これは企業にとって難しい課題を突きつけます。対応のスピードアップが求められる一方で、AIが生成した修正内容を十分な検証なしに本番環境へ急いで反映させれば、新たなセキュリティ問題を招きかねないからです。
真のボトルネックは対応能力
この連合が示す提言は、単に優れたAIセキュリティツールを導入すればよいという話にとどまらない、より根本的な課題を浮き彫りにしています。組織はまず、自社がどのようなシステムを保有し、どの脆弱性が最も重要で、その修正の責任者は誰なのかを把握する必要があります。
AIによって防御側が発見できる脆弱性の数が増えるにつれ、この点はますます重要になる可能性があります。発見のペースが加速する一方でパッチ適用が遅いままであれば、企業は結局、未対応案件の山を膨らませるだけに終わりかねません。
Mueller氏によると、一般的な大企業ではすでに40種類を超えるセキュリティスキャナーが稼働しており、その結果として数百万件もの検出項目が発生する一方、組織が1カ月に修復できる未対応の脆弱性は全体の1割程度にとどまっているといいます。
企業と消費者にとって何が変わるのか
企業にとって当面の優先課題は、あらゆる脆弱性を漏れなく追いかけることではなく、外部に露出していたり、実際に攻撃対象となっていたり、あるいは重要なシステムと連動していたりする弱点を特定することです。書簡ではまた、AIが生成したコードに対するセキュリティ基準の強化や、安全にパッチを適用できない重要システムに対する代替的な補完対策の必要性も訴えています。
政府に対しては、この連合はより強固な情報共有の枠組み、リソース不足に陥っている重要インフラへの資金拠出、そして防御用AIへのアクセス拡大を求めています。
消費者が直面する脅威は、これとは性質が異なります。Brauchler氏は、AIを悪用した詐欺によって、なりすましやフィッシングがより巧妙で個人に最適化されたものになりかねないと警告しています。
「消費者にとって、AIがもたらすリスクの多くはスパムや詐欺の領域に現れます」とBrauchler氏は指摘します。「ディープフェイク技術を使えば、攻撃者は人間を介さずとも身近な人になりすまし、標的ごとにカスタマイズしたフィッシングキャンペーンを生成し、被害者の反応を引き出しやすい高度にパーソナライズされたコンテンツを作り出すことができます」
同氏は、多要素認証やパスキーの利用、予期しない依頼を独立した経路で確認すること、そしてリンクをクリックする前にメールの送信元ドメインを確認することを推奨しています。
署名はしても、実効性を伴う縛りはない
この公開書簡は、政府に対して公共インフラの防御への資金拠出を求め、開発者には脅威インテリジェンスの共有を促すなど、野心的な目標を掲げています。しかし、実務レベルでの説明責任を担保する仕組みまでは踏み込んでいません。
署名企業は、この宣言に資金面での公約や拘束力のある期限、具体的なリソース配分計画を付随させてはいません。その結果、この取り組みは、AI規模の脆弱性に人間規模の予算で対処せざるを得ない、資金の乏しい自治体や企業のエンジニアたちに、目下の対応の重荷を委ねる形になっています。
あわせて読みたい: Samsung、Smart Switchの脆弱性を修正――機密性の高いユーザーデータの流出を招き、数百万台のデバイスをリスクにさらす恐れがあった問題です。
翻訳元: https://www.esecurityplanet.com/threats/news-openai-ai-cyber-defense-critical-infrastructure/
