スーパーインテリジェンス・タスクフォースは防御側に門戸を開くべきだ

人工知能(AI)モデルがソフトウェアの脆弱性を見つける速度は、組織が修正するペースをすでに上回っています。HackerOneのプラットフォームデータでは、有効な報告の未処理件数が過去2年間で131%増加しました。重大度が「クリティカル」や「高」の発見も増え続けており、修正の遅れはさらに広がっています。もはや欠陥の発見は難しい課題ではありません。超知能の時代に攻撃側と防御側のバランスを左右するのは、もっと難しい次の問いです。米国民が依存するシステムの欠陥を組織外の人物が見つけたとき、受け取る側に耳を傾ける人はいるのでしょうか。

スーパーインテリジェンス・タスクフォースは、意図するかどうかにかかわらず、この問いに公式な答えを出そうとしています。設置の憲章は、超知能が「サイバーセキュリティにおける攻撃と防御のバランス」に与える影響について、報告書をまとめるよう指示しています。さらに、医療、通信、銀行、エネルギー、水道、運輸、緊急サービスの各分野で、政府と民間部門の備えを評価することも求めています。この2つの評価は、今後何年にもわたって連邦政策を形作ることになります。第三者によるテストと脆弱性開示が抜け落ちていれば、不完全な全体像から出発することになります。

第三者による評価と開示を認める

攻撃と防御のバランスを正直に評価するなら、防御側が自らの弱点をどれだけ早く把握できるかを問わなければなりません。内部テストは必要ですが、限界があります。システムを作り、運用する人々は多くの場合、同じ前提を共有しています。外部の人間なら一目で気づくことを、見落とす可能性があります。

これは、私がスタンフォード大学、プリンストン大学、MITなどの研究者と共同執筆した、第三者によるAIの欠陥開示に関する論文の中心的な結論です。ソフトウェアセキュリティ、機械学習、法律、政策の専門家は、独立した研究者が欠陥を報告する明確な手段を必要とし、報告にあたっては法的保護も必要だという点で一致しています。

タスクフォースは、この知見を作業に取り入れるべきです。脆弱性開示プログラムなどを通じて、外部の研究者からの報告を受け付け、優先順位付けし、対応しているかどうかは、防御の成熟度を示す最良の指標の一つです。完全な指標ではありません。それでも、内部監査では決して分からないことを示してくれます。外部の精査を受け入れているか、受け取った情報を扱う実効的な仕組みがあるか、発見を修正につなげているかという点です。フロンティアモデルは、攻撃者に桁違いの規模をもたらします。防御側にも独自の規模が必要です。現在AIと協働しているグローバルなセキュリティ研究コミュニティは、利用可能な防御人材として最大の層です。攻撃者の能力は測っても、防御側が外部の支援を受け入れる力を測らない評価は、盤面の半分しか見ていません。

連邦政府は、入口の問題についてはすでに結論を出しています。行政管理予算局(OMB)は2020年から、各機関に外部からの脆弱性報告の受け付けを義務付けています。この6月には大統領令によって、対象となる連邦政府の契約業者にも同じ要件を広げる動きが出ました。連邦ネットワークの強靱性は、それを支える企業の強靱性に左右されるという認識に基づくものです。議会も同じ方向に動いています。超党派の「連邦契約業者サイバーセキュリティ脆弱性削減法(Federal Contractor Cybersecurity Vulnerability Reduction Act)」が、2027会計年度国防授権法(NDAA)の下院版に盛り込まれました。方向性は明らかです。外部からの報告を受け付けることは、もはや任意のベストプラクティスではありません。運用上のインフラです。

タスクフォースの備えに関する評価も、この考え方を憲章に挙げられたすべての分野に適用すべきです。病院、銀行、電力・水道事業者、通信ネットワーク、緊急サービスは、一つの未報告の欠陥が国家的な緊急事態に発展しかねない領域です。フロンティアAIによって発見から悪用までの時間が短くなるにつれ、警告を受け取る手段がないことのコストは大きくなる一方です。善意の研究者からの報告を受け取れない地方の病院、地域銀行、地元の水道事業者は、ほかにどんな対策を講じていても、備えができているとは言えません。各分野を一覧にしても、事業者が警告を聞き取れるかどうかを問わない枠組みは、誤った安心感を与えます。それは不完全であるより悪く、危険です。

タスクフォースがすべきこと

憲章は、タスクフォースに120日の期間と、政府と産業界にまたがる調整の権限を与えています。

この期間内に、タスクフォースは攻撃と防御に関する報告書で、外部からの報告とテストを明確な評価基準に位置付けるべきです。報告の窓口があるかどうかだけでなく、報告がどれだけ速く優先順位付けされ、修正されるかを測る必要があります。あわせて、憲章に挙げられたすべての重要インフラ分野で、独立した報告が可能な領域とそうでない領域を洗い出し、その空白を備えに関する調査結果として扱うべきです。

同じアプローチはAIシステム自体にも広げるべきです。標準化された欠陥報告と、研究者がモデルの欠陥や想定外の出力を報告できる明確な経路を整えます。さらに、この仕組みを支える研究者が、正しいことをしただけで法的リスクにさらされないよう、明確な法的セーフハーバーを勧告すべきです。

10年前、国防総省は、国内で最も機密性の高い組織でさえ、外部の専門家を招き入れることでより安全になれると示しました。その教訓は今、いっそう重要になっています。タスクフォースの憲章は、新たなリスクを「政府職員、産業界、そして米国民に特定し、伝える」べきだとしています。実際にその特定を担っているのは、外部の研究者です。タスクフォースは、2つの評価の初期段階から、外部研究者の活動を組み込むべきです。

翻訳元: https://cyberscoop.com/super-intelligence-task-force-cybersecurity-defenders-op-ed/

本記事は cyberscoop.com の記事を翻訳・要約したものです。