AIとML
AI利用は明白だが、まだ深刻な問題ではない
来週メリーランド州ボルチモアで開催される第35回USENIX Securityシンポジウム(USS)は、論文投稿数が過去最高を記録しました。
この増加の一因にはAIツールの普及がありますが、カンファレンス運営側によれば、防御策のおかげで悪用は最小限にとどまったといいます。ただし、セキュリティ研究コミュニティ内の信頼を維持するため、あまり厳しく詮索しすぎないようにもしているとのことです。
「今年のカンファレンスには約3,030件の有効な投稿がありました(第1サイクルで約1,280件、第2サイクルで約1,750件)」と、CISPAヘルムホルツ情報セキュリティセンターの終身教授でありUSSプログラム共同議長を務めるベン・ストック氏はThe Registerへの電子メールで説明しました。「これは前年の合計約2,400件から増加しています」
ストック氏は、セキュリティコミュニティ全体でこうした増加傾向が見られると述べ、ネットワーク・分散システムセキュリティシンポジウム(NDSS)を例に挙げました。NDSSの論文投稿数は2024年の694件から2025年には1,311件、そして今年は1,481件へと増加しています。
「したがって、投稿数が過去と比べて高水準に達したとはいえ、この増加を前例のないものとは呼びません」と同氏は述べました。「これは私たちが予想していたことであり、それに合わせてプログラム委員会(PC)の規模を調整しました」
AIの許容できない利用を見極める
4月に発表された論文「More Versus Better: Artificial Intelligence, Incentives, and the Emerging Crisis in Peer Review」によると、2022年のChatGPTリリース以降、主要な学術誌への投稿数は42パーセント増加しています。
1月に第1回と第2回の論文投稿サイクルの間に発表されたUSENIX Security ’26の透明性報告書で、ストック氏と共同議長を務めるジョージタウン大学コンピュータサイエンス学部助教授のエリッサ・レドマイルズ氏は、論文投稿と論文審査の両方においてAI利用の可能性を考慮し、どのようなツールやポリシーを整備してきたかを詳述しています。
「文章作成やコード開発を支援する、手軽に利用できるLLMの普及はコミュニティにとって周知の事実です」と報告書は述べています。「しかし、科学的プロセスの重要な部分におけるAI利用について、私たちは憂慮すべき傾向を目にしています。そのため、私たちの考えでは科学的プロセスに違反する識別可能な2種類の行為、すなわち存在しない(おそらく幻覚による)参考文献の使用と、審査プロセスにおけるAI利用に対して対策を講じました」
存在しない参考文献を含む論文を特定して却下した後、報告書によれば、カンファレンス運営側は「投稿されたPDFから参考文献を抽出し、DBLPやarXivなどの著名なデータベースに照会し、無効な参考文献を手動で確認する」ツールを開発しました。
運営側は、幻覚による参考文献が3件以上含まれる論文を却下する方針を取り、これは第1ラウンドの投稿1,181件のうち21件(1.78パーセント)に影響しました。
「存在しない参考文献が繰り返し含まれていたことを理由に、論文を却下したケースがあります」とストック氏は述べました。「これらが確実にAIによる幻覚であったと断言はできませんが、それでもこれらの論文には問題があると判断し、却下しました」
報告書によれば、さらに100件を超える論文に、査読者が確認できなかった参考文献が少なくとも1件含まれていたといいます。これらの一部は、単なる名前の綴りの違いや引用漏れによる誤検出である可能性もあることを踏まえ、カンファレンス運営側はスタッフへの負担をこれ以上増やさないよう、これらについては調査しないことを選びました。
カンファレンス運営側は、参考文献リストの作成にAIを使用することには一線を引いています。「科学的誠実性を脅かすこの傾向が、これ以上拡大する前に食い止めることが重要だと私たちは考えています」と報告書は述べています。
とはいえ、人間が書いた文章を磨き上げる程度の限定的なAI利用は想定内であり、それは提出された論文を審査する側にも、ある程度までは当てはまります。
「専用のAIポリシーは設けていませんが、審査意見を書くために[AI]サービスを利用することは許可されないと、PCメンバーには明確に伝えています。これは特に、機密保持に違反する行為であるためです」とストック氏は述べました。
「AIが使用されたと十分な確信を持てるケースをごくわずかに検出し、PCメンバーの解任や、影響を受けた著者への再提出の許可といった適切な措置を講じました」
この方針の下、USSは496人の査読者のうち5人に参加の中止を求めました。
「AIによって生成された投稿がセキュリティコミュニティにとって重大な課題になっているという証拠は、これまでのところ見当たりません」とストック氏は述べました。「とはいえ、これはこうした投稿の一部でAIが使われていないということを意味するわけではありません」 ®
