- Cathedral Systemsが、OpenAIの脆弱性を新たな視点から洗い出す
- 外部企業との提携は、業界にとって「重要な手本」に
- 重大な発見に対するバグバウンティの報奨金を4倍に増額へ
OpenAIは、Cathedral Systemsとの提携を発表しました。両社のセキュリティ研究者が協力してAIインフラをテストし、潜在的な脆弱性を特定して、既存の防御策を改善することが狙いです。
ChatGPTの開発元であるOpenAIは、外部の企業を迎えることで、自社の既存の研究に新鮮な視点が加わると期待しています。今後の脅威が深刻な問題を引き起こしかねないと、同社が認識していることの表れでもあります。
「OpenAIは、外部のセキュリティ企業と提携し、自社のモデルも活用して防御を継続的にテスト・強化することで、重要な手本を示しています」と、CathedralのCEOであるGavin Kliger氏は述べています。
セキュリティの大幅な強化を進めるOpenAI
OpenAIはバグバウンティプログラムも改善し、個々の研究者がより参加しやすい制度にするとしています。具体的な報奨金額は発表では明らかにされていませんが、重大な発見に対する報奨金を4倍に引き上げる用意があるとしています。
OpenAIはバグバウンティ制度の開始時に、ソフトウェアのパッチ、モデルのプライバシー、脅威の検知と対応、セキュリティツールの統合、AIエージェントのセキュリティといった分野での応募を求めるとしていました。
このAI大手が大規模なセキュリティ施策を主導するのは、今回が初めてではありません。以前には、開発者の4分の1に対し、セキュリティ上の弱点を見つけて修正するための時間を確保するよう求めました。この際、調査や修正を加速させるためにCodexを活用したのは当然の流れでした。
「従来のサイバー防御だけではもはや不十分であるため、私たちはこの取り組みをさらに発展させています」と、同社は以前のスプリントに触れつつ述べています。
AnthropicのProject Glasswingと同様に、OpenAIも最先端モデルを使って自社のシステムと他社のシステムを強化すると約束しています。
「防御側にとっての猶予を保つには、業界全体での行動が必要であり、その取り組みは今すぐ始めなければなりません」と、同社は付け加えています。
