ビッグテックのAI安全性対立、企業に混乱と不均衡をもたらす兆し

強力化を続けるAIモデルの安全確保の方法を巡り、主要AI企業の間で意見の相違が広がっています。この対立は企業のIT部門にとっての課題として具体化し始めており、組織がAIシステムにどのようにアクセスし、導入し、統制していくかに影響を及ぼしています。

最新の火種となったのは、MetaのCEOであるマーク・ザッカーバーグ氏の発言です。同氏は中立的な評価機関がAIモデルを独立して検証すべきだと訴え、開発の減速や連携強化を求める競合他社の主張に反論しました。

「信頼と整合性(アラインメント)は、今後エージェントやモデルを差別化する最も重要な要素になりつつあります。アラインメントに注力しない研究機関は遅れを取るでしょう」と、ザッカーバーグ氏はXへの投稿で述べています。

同氏はさらに、「独立した評価機関やアドバイザーを起用することは業界のベストプラクティスです」と付け加え、Metaも複数の分野で既にこれを実践していると述べました。

こうした発言は、AI業界のリーダーたちによる一連の公的な提言に続くものです。ダリオ・アモデイ氏はより慎重な開発ペースを主張し、サム・アルトマン氏は安全基準に関する業界連携を呼びかけていました。

この議論は、AI研究機関や政策担当者が高度なシステムの悪用可能性について開示を行う中で、さらに勢いを増しています。企業の発表や報道によれば、Anthropicは自社のClaudeモデルが機密性の高い領域で利用されようとした試みを制限したと述べており、OpenAIはAI関連のリスクについて政策担当者と協議を進めています。

企業側の懸念

この議論はしばしば「イノベーションを減速させるか、監視を強化するか」という二択の構図で語られますが、アナリストらは企業がどちらのアプローチが優勢になるかよりも、既に現れつつある実務上の影響に注目すべきだと指摘しています。

Gartnerのディレクターアナリスト、スショバン・ムコパディヤイ氏は「安全性へのアプローチの相違は、業界全体の減速をもたらすというよりも、先進的なAIモデルへのアクセスをより予測しにくいものにするでしょう」と述べています。ベンダーごとにリリーススケジュール、地域ごとの提供状況、アクセス階層、利用制限が異なる可能性が高く、企業は同等の機能に「異なる時期に、実質的に異なる条件下で」出会うことになると同氏は説明しています。

ムコパディヤイ氏は、プロバイダーや地域を問わず一貫したアクセスが得られるという前提を置かず、企業はアクセスの変動性を見込んで計画を立てるべきだと述べています。

Kanerikaの最高収益責任者(CRO)、ブペンドラ・チョプラ氏は「今週は、フロンティアAIが『管理された供給物』へと変わった転換点だったと私は捉えています」と述べています。「この3年間、CIOは次のモデルが当然のように登場すると想定できました。しかし今のフロンティアモデルは、外部評価機関や輸出規制によって部分的に納期が左右される、重要部品のサプライヤーのような振る舞いをしています」。

チョプラ氏はさらに、「特定のモデルが特定の日付に登場することを前提に組まれたAIロードマップは、まだ価格に反映されていないサプライリスクを抱えている」と付け加えています。

開発減速の有無にかかわらず高まるセキュリティ上の圧力

アナリストらは、特にオープンソースモデルが増え続ける状況下では、開発を減速させるだけで企業のリスクが実質的に変わるとは考えにくいと指摘しています。

ArmorCodeの創業者兼CEO、ニキル・グプタ氏は「最大の論点は一時停止そのものではありません。AI企業のリーダーたちが何らかの点で合意していること自体が重要なのです」と述べています。

グプタ氏によれば、脅威の状況はすでに変化しています。「企業が開発を一時停止したとしても、オープンソースのAIモデルはすでに世に出回っています」と同氏は言います。「一部の企業が減速したところで、攻撃者側にできることが実質的に変わるとは思えません」。

グプタ氏はさらに、「AI開発が明日止まったとしても、セキュリティ対策は加速させなければなりません」と述べ、「これらのシステムを保護する作業の難易度は、実質的に10倍になっています」と付け加えています。

新たに生まれる「AI保証」レイヤー

評価への注目は、アナリストが「AI保証」レイヤーと呼ぶ新たな仕組みの登場を促しています。これは第三者機関がモデルの安全性やコンプライアンスを評価する層です。

「独立したAI保証レイヤーが生まれる可能性は高いですが、企業は単一の認証だけでAIシステムの安全性が保証されると期待すべきではありません」とムコパディヤイ氏は述べています。「企業側のリスクは、データ、システム指示、ツール、エージェント、導入時の制御機構にも左右されます」。

チョプラ氏は、こうした評価が誤解される危険性を指摘します。「調達担当チームは第三者評価を見て、そのモデルは審査済みだと判断してしまうかもしれません」と同氏は言います。「1年も経てば、それは単なるチェック項目になってしまいます」。

そうではなく、企業は自ら検証を行う必要があると同氏は述べています。「先行するCIOは、モデルを本番環境に投入する前に、自社のデータを使って個別にテストするはずです」。

分断がマルチモデル戦略を複雑にする

複数ベンダーを併用する戦略を採るCIOにとって、プロバイダーごとにアプローチが異なることは、さらなる複雑さを招く可能性があります。

「分断は以前から既定路線でした。安全性への対応の相違は、それをさらに深めるだけです」とチョプラ氏は述べています。

同氏によれば、リスクが最も高まるのは移行の過程です。「複数のモデルを運用する企業にとって、リスクはモデルの切り替えの瞬間に潜んでいます」と同氏は言います。「モデルが遅延したり置き換えられたりすると、システムの挙動が変わることがあります」。

「私なら、ベンダーロックインよりも、検証されていないモデルへの入れ替えの方を上位のリスクに位置づけます」とチョプラ氏は述べています。

グプタ氏は、オープンなアーキテクチャの重要性を指摘します。「フレームワークは特定のベンダーに縛られない、オープンなものである必要があります」と同氏は述べています。

ムコパディヤイ氏はさらに、企業はモデルが利用不可になったり利用制限がかかったりする事態にも備えるべきだと述べています。

CIOに求められる耐障害性の構築

アナリストらは、可用性、価格、統制体制の変化に適応できるAI戦略を企業が設計する必要があると指摘しています。

「重要なアプリケーションについては、CIOはアプリケーションの制御機構やビジネスロジックを、基盤となるモデルから分離しておくべきです」とムコパディヤイ氏は述べています。

チョプラ氏は柔軟性の重要性を強調しています。「アプリケーションとモデルプロバイダーの間にルーティング層を設けておけば、切り替え作業は単なる設定変更で済みます」と同氏は述べ、契約には非推奨化(deprecation)のスケジュールを明記すべきだと付け加えています。

同氏はまた、価格面への影響も指摘しています。「フロンティアモデルへの限られたアクセスには、今後プレミアム価格が付くようになっていきます」とチョプラ氏は述べています。

この記事は、Computerworldに最初に掲載されたものです。