意見 AI企業：「AIの脅威と戦うにはAIを使う必要があります（そして企業IT環境のあらゆることを行う）」。また同時にAI企業：「それはセキュリティの欠陥ではなく、意図通りに動作しています」。
このようなパターンは、企業にあらゆることをするためにAIを使うよう指示する業界の宣伝担当者たちが、特にセキュリティの問題を検出しブロックすることについてAIの使用を推奨する際に、ますます一般的になっています。つまり、AI自体にセキュリティ上の欠陥が存在するまでは、です。その時には「予期された動作」または「設計上のリスク」となります。
運が良ければ、責任のあるAI企業は新しいセキュリティに関する考慮事項をドキュメントに静かに公開するかもしれません。しかし根本的な問題は解決されません。プロンプトインジェクションのような場合、ベンダーは本当には欠陥を修正できません。たとえ修正したくても。
最近の例をいくつか見れば、これがどのように展開されるかわかります。
研究者たちは最近、GitHub Actionsと統合される3つの人気のあるAIエージェントがどのようにハイジャックされてAPIキーやアクセストークンを盗むことができるかを示しました。3つのエージェントはAnthropicのClaude Code Security Review、GoogleのGemini CLI Action、およびMicrosoftのGitHub Copilotです。3つのベンダーすべてが発見に対してバグバウンティを支払いました。
Anthropicは100ドルのバウンティを支払い、重大度を9.3から9.4にアップグレードし、ドキュメントの「セキュリティに関する考慮事項」セクションを更新しました。Googleは発見に対して1,337ドルの報奨金を支払いました。GitHubは、これを彼らが「再現できなかった」「既知の問題」と最初に呼んだ後、最終的に研究者の情報開示に対して500ドルの賞金を支払いました。
ベンダーの誰もがCVEを割り当てたり、公開セキュリティアドバイザリを公開したりしませんでした。
別のバグハンティングチームはAnthropicのModel Context Protocol (MCP)に組み込まれた設計上の欠陥を開示し、彼らによれば、200,000台ものサーバーが完全な乗っ取りのリスクにさらされていると述べました。
彼らはAnthropicに根本的な問題にパッチを当てるよう「何度も」求めましたが、プロトコルは意図通りに動作していると何度も言われました。MCPを使用する個別のオープンソースツールとAIエージェント向けに発行された10個（現在のところ）の高度または重大度のCVEがあるにもかかわらずです。
バグハンターたちは、根本的なパッチにより、1億5000万以上のダウンロード数の合計があるソフトウェアパッケージ全体のリスクを減らし、数百万の下流ユーザーを保護できたはずだと主張しています。
欠陥を修正しない理由は？予想される動作です。「これはMCP stdioサーバーがどのように動作するかの明示的な部分であり、この設計は安全なデフォルトを表していないと考えています」とAI企業は研究者に述べました。
これは、この複雑で非決定的なAIシステムのセキュリティを確保するという非常に厄介な問題が、またしてもIT部門やエンドユーザーに押し付けられることを意味します。この場合、それはAnthropicの公式MCPソフトウェア開発キットをアプリやオープンソースプロジェクトで使用する開発者、および、このオープンソースコードとAIツールを彼らの環境に導入する企業を含みます。
さらに広い視点から見る：AI企業を制限することについて、米国連邦AI規制が完全に欠けていることは注目に値します。これは、彼らの1つ（Anthropic）が先週、その最新モデルがセキュリティの欠陥を見つけることに非常に熟達しており、一般にリリースするには危険が大きすぎるだろうと警告した事実にもかかわらずです。会社が「私たちの製品は誰もが深刻なリスクにさらされます」と人々に言うことができ、それでも罰せられずに操業することを許される他の産業を想像するのは難しいです。
子どもたちに伝えようとしていることの1つは、成熟していることと信頼を得ることは、彼らの選択と行動に責任を持ち、彼らの間違いに向き合うことを意味するということです。それには、間違っていることを認め、可能な場合は間違いを修正し、次回がより良くなるように方向転換することが含まれます。
セキュリティは他の誰かが解決する問題だと言うAI企業のこのような「それは私ではありません」という行動はすべて、完全に成熟さが欠けている、または基本的な良識さえもないことを示しています。顧客がいつ同じ結論に達するかは誰もが疑問に思うだけです。 ®
翻訳元: https://go.theregister.com/feed/www.theregister.com/2026/04/19/ai_vendors_response_to_security/
