アナリストらは、今回の一連の対応はIPOを見据えた単なるポジショニングにすぎない可能性があると指摘する一方、いずれの変更も歓迎すべきニュースだとしています。
OpenAIは今週、自社のセキュリティおよびプライバシーに対する否定的な見方に対抗する狙いで複数の施策を発表しました。スケーリングのペースを落としたほか、強化学習に2週間の一時停止期間を設け、さらに「対象となるAPI顧客」向けにゼロデータ保持を提供するとしています。
火曜日に発表された最初の発表で、OpenAIはスケーリングのペースを「一時的に」落とすとともに、強化学習のトレーニングを一時停止したと明らかにしました。
同社によれば、こうした対応は研究環境の強化とレッドチーム演習、監視体制の拡充と並行して行われたとのことです。同社は「計画していた最大規模のフロンティアRL(強化学習)の実行は、モデルの挙動を評価し、安全対策を検証し、進める前にアラインメント(整合性)のさらなる根拠を確立するため、小規模なトレーニングと評価を実施している間は保留したままとする」と付け加えています。
OpenAIの声明では、「今後はトレーニング全般を通じて、既に進めている研究や評価をさらに発展させる形で、アラインメントされた挙動についてより強力な根拠を求めることになる。能力が高まり続けるシステムのアラインメントを維持することは、業界全体で取り組むべき課題だ」としています。
また同社は、ワークロードの分離、ネットワークの分離、「継続的なセキュリティテスト」など、手順改善に向けた最近の他の取り組みについても強調しました。
ただし同社は、新たに提案した監視体制によって「監視対象となる推論計算量のおよそ20%」に相当するオーバーヘッドコストが発生すると指摘しており、「ただしこのコストはトレーニングと評価のワークロードによって大きく変動する」としています。同社はこのシステムの詳細について、近く公開予定のブログ記事で説明するとしています。
アナリストやコンサルタントらは、こうした一連の対応はおそらく、近く予定されているIPOに向けてOpenAIの立場をより良くするために発表されたものだと見ています。
独立系テクノロジーアナリストのCarmi Levy氏は、今回の声明について「エージェント型AIをめぐる安全性への懸念が高まり続けるなか、PRポイントを稼ぐために巧妙に練られた動きだ。同社が何かしらの対応をしていることを示すシグナルにはなるが、その中身は極めて不十分なものだ。OpenAIのようなベンダーに安全性を他のあらゆる要素より恒久的に優先させるよう義務付ける明確な規制がない以上、2週間の一時停止は批判をかわすための見せかけの装飾にすぎない」と評しています。
Moor Insights & Strategyのプリンシパルアナリスト、Jason Andersen氏も同様の見方を示し、「IPOに向けて進むなかでの、いくぶん実利的なパフォーマンスだと思う」と述べました。ただし同氏は、それ以上の背景がある可能性も示唆しています。企業各社は今後もAIへの投資を積極的に続けるだろうとし、「訴訟を起こされるまでは、アクセル全開の状態が続くだろう」と指摘しました。その後になって初めて、各社は慎重姿勢に転じるだろうというのです。
とはいえ同氏は、「これら(大手AI)企業がIPO後に成功を収める唯一の方法、そしてスケールしていく唯一の方法は、企業ユーザーの領域にさらに深く入り込むことだ。そして、それを実現する唯一の方法は、恐怖とリスクを和らげることだ」とも述べています。
ゼロデータ保持とは?
水曜日の発表では、OpenAIはゼロデータ保持プログラムの対象となる条件については明らかにしませんでした。9月に開始予定であり、その際に「技術ホワイトペーパー」で詳細を共有するとしているのみです。
しかしAndersen氏は、この動きは今日の複雑なベンダー間の関係性という文脈のなかで捉える必要があると指摘しています。
同氏によれば、OpenAIの収益の多くは企業から直接得ているものではなく、MicrosoftやAWSといったパートナー経由によるものだといいます。「例えば、私がAmazon Kiroのようなツールを使い、OpenAPIをAPI経由で利用してアプリを構築するとしよう。その場合、私はどのモデルを使っているか意識しない。表面上はAmazonが顧客で、あなたはAmazonの顧客ということになる。もし自分が企業で、この(ゼロデータ保持の)保護を求めるなら、自前のAPIキーをKiroに提供する必要がある。そうすれば企業が直接の顧客となり、ロックボックスへのアクセス権を得られる。一方でAWSはアクセス権を失い、収益やマージンを取りこぼすことになる」と説明しています。
FormerGovのエグゼクティブディレクターを務めるコンサルタントのBrian Levine氏は、データ保持に関する約束についても、実際のプロセスがどう機能しがちかという観点から見ると一筋縄ではいかないと付け加えています。
同氏は「OpenAIは、スタッフが基となるコンテンツを一切閲覧することなく、やり取り全体にわたって不正利用を監視できるようになったと述べている」とし、「これは強い技術的な約束だ。というのも、不正利用を監視することと、データを閲覧できないようにすることは、これまで相反する方向に働くものだったからだ。そしてその裏付けとなるホワイトペーパーは、まだ数週間先の話だ」と述べています。
さらに同氏は、「CSAM(児童性的虐待素材)としてフラグが立てられたコンテンツは、法的な報告義務のために依然として保持される。ゼロは決して完全なゼロにはならない」とも指摘しています。
LexisNexis Risk Solutions GroupのCISOを務めるFlavio Villanustre氏は、今回の動きをやや異なる観点から捉え、今後想定される規制を和らげる狙いがあるのではないかと指摘しています。
Villanustre氏は「同社は、自分たちに大きな影響を及ぼしかねない今後の規制について、その兆候を察知している可能性が高い。今回の動きは、将来のより厳格な立法を回避するために自主規制への意欲を示そうとする試みなのかもしれない」と述べています。
それでも、Aikido SecurityのエンタープライズCISOを務めるMike Wilkes氏は、「誠実さは永続性と同じではない」と指摘します。「水面下に潜む巨大な海の怪物という古い北欧・スカンジナビアのイメージになぞらえるなら、これは『クラーケンを一時停止させた』と呼べるかもしれない。本当に問われるべきは、OpenAIが再びそれを解き放つと決断するために、どのような条件が満たされる必要があるのかということだ」と述べています。
Info-Tech Research Groupのテクニカルカウンセラーを務めるJustin St-Maurice氏も、OpenAIは大手AI企業として本来当然行うべき最低限のことをしているだけなのに、それに対する評価を得ようとしているように見えると付け加えています。
同氏は「もし自動車メーカーが、量産前に基本的な安全性試験をより真剣に実施すると発表したとしても、それは大々的に称賛されるようなことではないだろう。むしろ、そこまで基本的なことを懐疑的な世間に対してわざわざ説明しなければならないこと自体、率直に言って恥ずかしいはずだ」と述べています。「私が疑問に思うのは、なぜ今このタイミングで発表する必要があったのか、そして競合他社が一時停止のコストが高くつくような何かを世に送り出したとき、彼らが本当にその立場を貫くのかということだ」。
そのため同氏は、こうした発表を「デューデリジェンス(相応の注意)」の証として鵜呑みにするのはやめるべきだと助言します。「約束されたことではなく、実際に自分たちが得られるものの証拠を求めるべきだ。もしベンダーがセキュリティ上の理由で開発を一時停止できるとして、それをブログ記事を通じて知ることになったのだとしたら、契約上ベンダーに何を開示する義務があるのか、あらためて確認すべきだろう」。
この記事は、Computerworldに掲載されたものです。
