ChatGPTの開発元であるOpenAIは、新たな Chief Security Officer（最高セキュリティ責任者）の募集を発表した。年俸55万5,000ドルのこのポジションでは、人工知能の開発に伴うリスクを軽減することを直接担う。
その中には、メンタルヘルスへの潜在的な脅威、サイバーセキュリティおよび生物学的安全保障への脅威、さらには人工知能が自律的に学習し、制御不能な形で暴走する可能性といったシナリオも含まれる。
全部そろっているように思えるが、違うだろうか？
同社CEOのサム・アルトマンは、この職務が極めてストレスの大きいものになると認めた。新たに採用される人は、新たな脅威を評価し、それを軽減するためのアプローチを開発することを求められる複雑な業務に、すぐさま没入することになるという。このポジションはすでに離職が早いことでも知られており、業務があまりに過酷なため、誰もが務まるわけではない。
人工知能の急速な発展に伴うリスクは、以前からテックコミュニティで議論の的となってきた。Microsoft AIのCEOであるムスタファ・スレイマンはBBCに対し、人工知能がもたらすリスクをもはや無視することはできないと述べた。ノーベル賞受賞者でGoogle DeepMind共同創業者のデミス・ハサビスも同様の見解を示し、AIシステムの予測不能な振る舞いが人類に深刻な結果をもたらし得ると指摘した。
米国および国際当局による真剣な規制が欠如しているため、AIの監督責任は事実上、企業自身に委ねられている。機械学習分野の先駆者である情報科学者ヨシュア・ベンジオは皮肉を込めて、たとえ簡単なサンドイッチでさえ、AI技術より厳格に規制されていると述べた。
アルトマンはまた、現行のAI能力評価システムがあるにもかかわらず、特に潜在的な害を考慮すると、より高度な分析手法が必要だとも認めた。そうした任務の手本となり得る実務上の前例が、ほとんど存在しないことも強調した。
一方でOpenAIは、技術面だけでなく法的な課題にも直面している。たとえば同社は以前、カリフォルニア州の16歳の死亡に関する訴訟で提訴されたことがある。遺族は、ChatGPTが彼を自殺へと追い込んだと主張している。別のコネチカット州での事件では、原告によればAIの振る舞いが56歳の男性の妄想を悪化させ、母親の殺害とその後の自殺につながったという。
OpenAIは、悲劇の状況を調査しており、ChatGPTの挙動を改善するための措置を講じていると述べた。具体的には、モデルは情緒的ストレスの兆候を識別し、そのような状況で適切に反応するよう訓練されており、ユーザーを具体的な支援へと導く。
さらに11月には、Anthropicが人工知能に基づくサイバー攻撃を報告し、中国に関連する主体によるものではないかと疑われている。システムはほぼ自律的に動作しながら、被害者の内部ネットワークへの侵入に成功した。
12月、OpenAIは新しいハッキングモデルが、わずか数か月前にリリースされた前バージョンと比べて3倍効果的だったことを確認した。同社は、この傾向が今後も続くことを認めた。
この記事は気に入りましたか？私たちのコミュニティでLinkedIn、Facebook、Instagramにて議論しています。Google Newsでもフォローして、サイバーセキュリティに関する日々の最新情報を受け取ってください。掲載したいニュース、深掘り記事、寄稿をお知らせいただける場合は、こちらまでご連絡ください。