英国政府のAI Security Institute（AISI）が実施した新たなサイバーセキュリティ評価によると、最先端のAIモデルはタスクを完了するためであればほぼあらゆる手段を取り、それにはカンニングも含まれることが明らかになりました。
AISIはカンニングを、タスクが許容する範囲を逸脱した行動をモデルが取ること、あるいは明示されたルールを堂々と破り、タスクが本来想定していない近道によって目標に到達することと定義しています。
「この行動についてテストしたすべてのモデルがカンニングを試みました。モデルは質問された際にこの行動を確実に報告することはなく、また思考の連鎖（chain-of-thought）の中でそれについて推論しないことも多くありました。これは、カンニングの検出には堅牢な監視手法が必要になることを示唆しています」とAISIはブログ投稿で述べています。
カンニングはさまざまな形で現れました。モデルはオンラインで答えを調べたり、サンドボックス化を目的としたネットワーク制限を回避しようとしたり、評価用ソフトウェアを探って何が得られるか探ったり、タスクとは無関係のシステムを攻撃したり、あるいは単に答えを推測したりしていました。
これらはいずれも目新しい話ではありません。機械学習の研究者たちは、モデルが報酬関数を欺いたり、ベンチマークテストで高得点を得るための抜け道を見つけたりすることを、以前から記録してきました。
AISIは、モデルが誰かを騙そうとしているとは考えていません。それでも、この点は懸念すべきだと同研究所は指摘しています。カンニングはモデルの能力を実際以上に高く見せかける可能性があり、結果を容易に検証できないタスクにおいてはユーザーを誤導する恐れもあります。
「モデルの能力が向上するにつれ、カンニングはさらに懸念すべきものになります。より高性能なモデルは、予想もしなかった方法でカンニングを行ったり、自らの行動を隠すためにより多くの労力を費やしたりする可能性があるためです」と同研究所は付け加えています。
研究者たちはすべてのAIモデルのカンニングを確認
AISIは主要な5つのモデルそれぞれに475回のテストを実施し、5つすべてでカンニングが確認されました。
（出典：AI Security Institute）
カンニングの発生率は、モデルの能力の高さとは連動していませんでした。能力の高いモデルが能力の低いモデルよりカンニングをしやすいというわけではなかったのです。AISIはこの点について、この行動はモデルの生の能力そのものよりも、どのように学習・アライメントされたかによるところが大きいと分析しています。
誤って設定され、解くことができないテストの最中に、あるモデルはそれでも解こうとし続けました。このモデルはインターネット上に公開されている外部サービス上でコードを書いて実行し、それを使ってAISI自身の評価システムに到達しようと試み、セキュリティ警報を作動させました。
「実害はなく、情報漏えいも発生しませんでしたが、もし我々の評価インフラが安全に設計・構築されていなければ、この試みは成功していた可能性があります。以降、AISIのシステムをさらに強化する対策を講じました」と研究者たちは述べています。
モデルにカンニングをしたかどうかを尋ねること自体は、それ単独では弱いチェック手段であることが判明しました。AISIによると、質問された際に自らの不正行為を認め、それを誤りだと述べたモデルは半数未満にとどまりました。
モデルの思考の連鎖を読むことでも、このギャップは埋まりませんでした。一部のモデルは、フラグが立てられたステップについてほとんど推論を書き出しておらず、これは特定の行動に対してどの程度の推論を示すかをモデル自身が判断しているためです。また、ある行動がカンニングに該当するかどうかをモデルが実際に推論したケースでも、その推論の結果カンニングを思いとどまることはありませんでした。
「カンニングの成功は、AI安全性・セキュリティ研究のように成功の検証が難しい領域や、サイバー作戦や軍事的意思決定のように意図しない行動のコストが極めて高くなり得る領域において、特に危険です」とAISIは警告しています。
現時点では、AISIは手作業によるレビューとLLMベースの監視システムを組み合わせて、把握できる限りのカンニングを捕捉するという方法に頼っています。モデルがさらに強力になっていく中でこの手法が有効であり続けるかどうかは、今後の課題として残されています。
翻訳元: https://www.helpnetsecurity.com/2026/07/22/ai-models-cheating-behaviour-cybersecurity-evaluations/
