ビル・ゲイツ氏がAIに警告、サイバー恐喝の脅威

ビル・ゲイツ氏は、今後1年のうちに人工知能（AI）がもたらす深刻な影響は、機械が人間の制御を離れて暴走するというディストピア的な脅威よりも、サイバー恐喝を行う犯罪者の悪用という形ではるかに顕著に現れると主張しています。マイクロソフトの共同創業者である同氏は、悪意ある攻撃者がすでに、安全対策（ガードレール）を一切備えていない強力なAIモデルに自由にアクセスできると、厳しく警告しました。

サイバー攻撃の増幅という差し迫った危険

10月11日に放送されたCNNのインタビューで、ゲイツ氏はサイバー攻撃こそがAIに起因する最も重大かつ差し迫った危険だと指摘しました。同氏によれば、犯罪組織は昔から、金銭を得るために極めて単純な手口に頼ってきました。壊滅的な被害をちらつかせて脅し、法外な身代金を要求するというものです。ニューラルネットワークは、こうした犯罪行為の効果を飛躍的に高める可能性を秘めています。さらにゲイツ氏は、攻撃者が重要なシステムを意図的に妨害しかねない恐ろしい可能性にも言及しました。株式市場の変動を操作したり、違法な賭博ネットワークを悪用したりして、莫大な利益を得ようとするというのです。

倫理的な安全策を回避する悪意ある利用

ゲイツ氏が最大の危険と見ているのは、AIが自律的に動き出すことではなく、この変革的な技術を意図的に武器として使う人間の悪意です。良識ある開発者は、自社のモデルに厳格な制限を組み込んでいます。サイバー攻撃や生物兵器の脅威を画策する行為を阻止するために設計された制限です。しかしこの富豪は、こうした防御は突破できないものではないと注意を促しました。さらに詳しく説明する中で、同氏はこれらの保護機能を回避する高度な手法が存在すると警告しています。その結果、悪意ある主体は本来の倫理的制約から解き放たれた状態で、最新システムの驚異的な能力を無制限に利用できてしまいます。

包括的な規制の緊急の必要性

こうした無制限のアクセスがもたらす壊滅的な結果は、わずか1年のうちに現実になり得るとゲイツ氏は推測しています。人類が最終的にAIへの制御を手放すという存亡に関わる危険性を否定するわけではないものの、最も終末的な事態はもっと先のことだと位置づけています。このテック業界の重鎮は、二本立ての防衛戦略を強く訴えています。将来の存亡に関わる脅威に先手を打って対処しつつ、現在すでに存在するデジタルの道具を武器として悪用しているサイバー犯罪者にも、警戒の目を光らせ続けなければならないという考えです。

さらにゲイツ氏は、生物兵器の秘密裏の開発にAIが悪用される可能性についても、深刻な警鐘を鳴らしました。そのため同氏は、テクノロジー大手が一方的に安全基準を定めて運用している現在の枠組みは、まったく不十分だと考えています。対談の中で同氏は、AIを自動車や航空、医薬品と巧みに対比させました。これらの基幹産業は、公共の安全を確実に守るため、長年にわたり国が定める厳格な規制の枠組みの下に置かれてきたからです。