OWASP 2026年版LLM Top 10:「モデルは騙される」ことが前提に

OWASP GenAI Security Projectは、LLMアプリケーション向けTop 10の2026年版を公開しました。今回のリストでは初めて、実際に発生したインシデントの情報が反映されています。

上位2項目であるプロンプトインジェクション機密情報の漏洩は順位を維持しましたが、それ以下の項目については例年以上に順位の変動が見られました。

OWASP LLM Top 10の2025年版と2026年版の比較(出典:OWASP)

リスト作成プロセスにデータが加わる

これまでのTop 10リストは、すべてコンセンサス方式に基づいていました。つまり、数百人の実務者による投票で、どのリスクを重視すべきかを決定してきたのです。

今回も投票結果が全体の75%の重みを占めている点は変わりませんが、残り25%については、公開されている脆弱性データベースおよびAI被害データベースから抽出した6,639件の実際のインシデントデータが反映されました。

このような配分は意図的なものです。プロジェクトのリーダーたちは、このリストについて「コンセンサスによる成果物であり、たった1年分のノイズの多いデータによって、実務者たちの判断が覆されるべきではない」と述べています。とはいえ、25%という重みは、専門家の見解と実データが大きく食い違った場合に、項目の順位を一段階動かすには十分な影響力を持っていました。

最も大きな順位変動

プロンプトインジェクションは依然として第1位ですが、これに関する記録済みインシデントの件数自体はそれほど多くありません。

OWASPはこれを「防御による効果」と呼んでいます。各組織がプロンプトインジェクションを阻止するために多大な努力を払っているため、公開データベースに現れる攻撃成功例が少なくなり、結果としてリスクが実際より小さく見えてしまうというのです。しかし実際には、この脅威を抑え込むために各組織は相応のコストをかけています。

これとは逆の現象が起きたのが誤情報です。投票では下位に位置づけられていたにもかかわらず、2つ順位を上げました。インシデント記録ではこの項目が上位にランクされており、それが順位の押し上げにつながったのです。

不正確、不完全、根拠のない、あるいは誤解を招くような出力は、人間やエージェントにとって信じられやすく見えることがある、とプロジェクトのリーダーたちは説明しています。

「現代のシステムでは、モデルの出力がツール呼び出しを引き起こし、コードを生成し、システムの状態を推論し、アクションを承認し、複数のエージェント間の連携を調整します。これにより、誤情報はシステム全体に影響を及ぼす障害となり得るのです。金銭的損失、セキュリティインシデント、安全上のリスク、業務の停止につながる可能性があります」と付け加えています。

過剰なエージェンシー(AIシステムに自律的に行動する権限を過剰に与えてしまうこと)は第3位に浮上しました。これは専門家の投票と実データの両方が、エージェント型の導入現場で実際の被害が発生していることを示した結果です。

無制限な消費は4つ順位を上げました。これは、リソースやコストの枯渇をより重視するようになった実務者たちの意見が反映された結果です。一方、出力処理は5位から10位へと下落しました(ただし、対象範囲自体は拡大しています)。

システムプロンプトの漏洩は名称が変更され、対象範囲も拡大されて隠れたコンテキストの露出となりました。

また、複数の項目については新たなカテゴリーを新設するのではなく、より深刻なリスクを既存項目に統合する形が取られました。プロンプトインジェクションには、画像や音声に隠されたクロスモーダル攻撃が新たに含まれるようになり、データおよびモデルのポイズニングには、ファインチューニングの悪用が統合されています。

限界を理解する

全10項目を貫く一つの考え方があり、リーダーたちはこれを冒頭で述べています。「騙されることのないモデルを作ろうとするのはやめましょう。その代わりに、モデルを取り巻くシステム全体を設計し、モデルが実際に騙されたとしても——それは必ず起こることですが——重要な部分は決して壊れないようにするべきです」。これは、完璧な防止策を目指すのではなく、被害範囲の制御へとリストの位置づけを転換するものです。

OWASP LLMアプリケーション向けTop 10の2026年版は、その適用範囲についても極めて明確にしています。すなわち、アプリケーション内の一構成要素としてのモデルに関連するリスクを整理し、順位づけたものである、という点です。

「モデルが単なる構成要素ではなく、自ら呼び出せるツールを持ち、セッションをまたいで記憶を保持し、下流に影響を及ぼす結果を引き起こす『行為者』になった瞬間、そのリスクはOWASP Agentic Top 10の領域に移ります」とプロジェクトのリーダーたちは指摘しています。

翻訳元: https://www.helpnetsecurity.com/2026/08/06/owasp-2026-llm-top-10-released/

ソース: helpnetsecurity.com