- OpenAIは「重大」なサイバー能力を備えた最新AI、GPT-6 Astraの提供を開始
- Astraは未知の欠陥を自律的に発見・悪用可能。公開対象は審査済みのDaybreak参加者に限定
- 段階的な展開がユーザーの不満を招き、アルトマン氏が謝罪し早期の対象拡大を約束
OpenAIは、同社最新かつ最も高性能な人工知能モデル「GPT-6 Astra」の展開を開始しました。
自社サイトで公開した発表の中でOpenAIは、Astraが「サイバー能力における大きな飛躍」を遂げ、同社の定める「Critical(重大)」の閾値に達していると述べています。
同社の説明によれば、この閾値は、然るべき状況下において本ツールが「人間が各手順を誘導しなくても、これまで知られていなかったセキュリティ上の欠陥を、防御が固められた多数のシステムにわたって発見し、それを悪用する新たな手法を開発できる」ことを意味します。
お粗末な展開への謝罪
さらにOpenAIは、Astraがコンピュータ操作やソフトウェアエンジニアリング、科学分野といった機能面でも進化を遂げており、従来モデルと比べて意図からの逸脱が起きにくくなっているはずだとも説明しています。
これまでの多くのモデルと同様に、Astraの公開も物議を醸すことになりました。約1カ月前、OpenAIは同モデルの「重大」なサイバーセキュリティ能力を理由に、社内の一部開発を一時停止し、安全プロトコルを発動させたと発表していました。
初期の調査結果を受け、同社は特定のセキュリティ管理体制を強化するとともに、新たに定めたセキュリティ要件を満たさない活動については一時停止する措置まで取っていました。
そして今回、モデルを公開する時期が来たと判断したものの、一般公開には至っていません。代わりにOpenAIが選んだのは段階的な公開で、まずはDaybreakプログラムに参加する限られた企業群に先行提供する形を取りました。Daybreakは、審査を通過した組織(サイバーセキュリティ企業に限らない)に対し、脆弱性調査や脅威検知に特化したAIツールを提供するサイバーセキュリティ関連の取り組みです。
この対応には、特に月額課金を支払っている多くのChatGPTユーザーが納得しませんでした。The Vergeの報じたところによれば、CEOのサム・アルトマン氏は公開からわずか数時間後には、Astraの「お粗末な展開」について謝罪していました。
当初の計画では、Plus、Pro、Business、Enterpriseの全ユーザーに加え、OpenAI API、Microsoft Azure、AWS Bedrock経由の利用者にもAstraへのアクセス権が付与される予定でした。
「できる限り早く、全員の手にAstraを届けられるよう取り組んでいます」とアルトマン氏はX上で述べました。「もどかしい思いをさせていることは承知していますし、忍耐強く待っていただいていることに感謝します。まもなく実現するはずです」
