最も強力なAIモデルがファイアウォールやプロキシをすり抜けないと期待するのは、危険を招く行為です。
AIモデルを訓練する際の現行のセキュリティ手順は不十分だとして、数百人のAI研究者が各国政府とAIコミュニティーに警告しました。研究者らは、より厳格なルールの整備に加え、AI開発のベストプラクティスを監督する新たな国際機関の設立を求めています。
AI分野の専門家は公開書簡で、AIの安全性に関する研究の拡充と、封じ込め技術の重視を呼びかけました。署名者は掲載時点で487人にのぼり、多くの著名な学者が名を連ねています。
署名者にはジェフリー・ヒントン氏やヨシュア・ベンジオ氏ら第一人者も含まれます。書簡は「サイバー攻撃能力を持つAIモデルを確実に封じ込めるには、エアギャップ（インターネットからの切断）を含む強力なサンドボックス機構を用いるべきだ」と訴えています。
専門家らによると、新たな国際機関は各国政府や、AI・セキュリティ分野の幅広い専門家と協議したうえで設立します。同機関は新たな安全基準を策定できるだけでなく、封じ込めの失敗事例の報告先としても機能します。これにより、知見の共有や説明責任の面で透明性が高まるとしています。
科学者らの要求は、AI規制の強化をめぐる最近の主張よりも踏み込んだ内容です。今週初め、マイクロソフトのブラッド・スミス社長は、AIは洗濯機や牛乳よりも規制が緩いと発言しました。ただ、状況を是正するための具体的な提案は示していません。また、英国議会はAIのセキュリティを改善する方法を検討していますが、AI企業間の意見対立が足かせとなりそうです。
ヒントン氏とベンジオ氏が科学者主導のこうした取り組みに加わるのは、これが初めてではありません。昨年10月には、超知能AIの開発に伴う危険性を警告する公開書簡に署名しています。ただ、この書簡がAIの急速な開発に影響を与えた形跡はありません。経営陣がこの警告に耳を傾けるかどうかは、まだ分かりません。
