AI and ML
「申し訳ありません、デイブ。それはできません」――これはオープンソースにとって効果的な売り文句になっています
クローズドソースのフロンティアモデルが脅威アクターへの加担を防ぐために設けているガードレールが、深刻な脆弱性の発見や修正を手伝う際の足かせになってしまっています。
Akamai Technologiesのプリンシパル・セキュリティ・リサーチャーであるDaniel Fox Franke氏は最近、ripgrepのセグメンテーションフォールトの原因を突き止めようとしていましたが、OpenAIのGPT-5.6 Solが協力してくれないことに気づきました。
「OpenAIのサイバーセキュリティ分類器は、セグフォルトの原因を追跡しようとしているときに本当に厄介です」と同氏は日曜日にソーシャルメディアへの投稿に書いています。「……この分類器は、rgからmuslへのどのエントリーポイントがmallocngヒープ上の割り当てにつながるのか、という質問にすら答えさせてくれません」
そして、OpenAIによる誤爆攻撃の際にHugging Faceが辿ったのと同じように、Franke氏も結局、中国のAIプロバイダーが提供するオープンウェイトモデル――Z’aiのGLM 5.2とMoonshot AIのKimi K3――を使わざるを得なくなり、Linuxカーネルのバグとみられる問題の分析を完了させました。
Franke氏はThe Register宛てのメールで次のように説明しています。「発端はごくありふれたプロンプトでした。長時間実行していたCodexセッション中にripgrepが何度もセグフォルトを起こしていることに気づいたので、ルートエージェントにサブエージェントを分岐させて何が起きているのか調査するよう指示したのです」
「数分後、最初の分類器の発動がありました。ルートエージェントによれば、これはサブエージェントが不適切な調査の方向に進んでいたためで、そこから軌道修正しているとのことでした」
それでも、分類器はその後も立て続けに何度も待ったをかけてきたといいます。
「クラッシュの再現とヒープの分析を試みる部分がその原因の大半を占めているようだったので、私は新しいコンテキストを立ち上げ、こうした発動がこれまでにも起きていたことを警告した上で、タスクの範囲をripgrepとmuslのソースコード分析に厳密に限定するよう指示しました(この時点ではカーネルのバグだとは全く思っていなかったので、カーネルは対象外としました)。クラッシュの再現やコアファイルの分析を試みてはならない、とも伝えました」と同氏は説明します。「それにもかかわらず、こちらの指示に従っていたはずなのに分類器は発動を繰り返し、そこで私はこのツールから何か有用な成果を得ることを諦めました」
Franke氏は、Anthropicのモデル群がそれよりもさらに制限的であることを踏まえ、Claudeファミリーのモデルは試すことすらしなかったと述べています。
「OpenAIのサイバーセキュリティ分類器は、生成モデルの出力を検閲する別システムであり、問題を引き起こしたのはこの分類器だけでした」と同氏は言います。「Sol自体から拒否されたことは一度もありません。分類器の発動の大半が不適切なものだと理解した上で、常に誠実に私と協力し、問題の回避に取り組み続けてくれました」
Franke氏によると、OpenAIのエラーメッセージはEnterprise Trusted Accessプログラムへの登録を促すものでしたが、自身には利用資格がないため申請はしなかったといいます。ただ、最近になるまで気づいていなかったこととして、個人向けの別のTrusted Accessプログラムが存在するとのことです。
「それにはまだ登録していません。その本人確認の手続きを、ある種の屈辱のように感じているからです」と同氏は説明しており、これは他のセキュリティ研究者たちからThe Registerがこれまでに聞いてきた声とも重なります。「いずれ強制されるようなことがあれば従うつもりですが、オープンモデルが現実的な代替手段であり続ける限りは、そうするつもりはありません」
今回のバグ調査で実際に役立ったオープンモデルは、GLM 5.2とKimi K3の2つでした。Franke氏によれば、それぞれが異なる役割を果たしたといいます。
「カーネルのバグを扱っているという決定的な証拠となる最初の突破口を開いたのはK3でしたが、その後の調査作業は雑でした。根拠のない結論に飛びつき、自らが積み上げた証拠の記録を台無しにしてしまい、コンテキストが大きくなると完全に脱線してしまいました」と同氏は述べています。「最終的に仕事を仕上げてくれたのはGLM-5.2でした。K3の作業を改めて検証し、隙のない論証をまとめ上げてくれました」
Franke氏は、非協力的なツールと格闘することへの苛立ちを語るとともに、オープンソースの代替手段が存在するにもかかわらずモデルの利用が制限されている現状に懐疑的な見方を示しています。
「私の見方では、非協力的なツールは単に壊れたツールにすぎません」と同氏は言います。「そして、オープンウェイトの競合が存在する中で、こうした状況が持続可能だとは思いません。私はオープンソースについては完全な実用主義者であり、仕事さえこなしてくれるなら独占的な製品を使うことに抵抗はまったくありません。ただ、独占的なソフトウェアの場合、顧客の利益よりもベンダー自身の都合を優先するように作られてしまう危険性がはるかに大きいのです。それを防ぐ点で、オープンソースには本質的な強みがあります」
Franke氏によれば、このLinuxのバグについてはまだ作業が残っており、パッチはまだ存在せず、悪用可能な脆弱性を表しているようにも見えないとのことです。
「私の調査は現時点で、確信を持って言える2つの事実にとどまっています」と同氏は言います。「1つは、クラッシュがカーネルのバグによって引き起こされていること。もう1つは、私自身がカーネルのバグを1件特定したことです。しかし、このバグがこれらのクラッシュを引き起こしているというのはあくまで推測にすぎず、[Linux Kernel Mailing List]への報告を検討できるようになるまでには、まだかなりの調査が必要です」
先週、米国テック業界の多くが、AnthropicとOpenAIが推し進める保護主義に反対し、オープンウェイトモデルを支持する姿勢を打ち出しました。米国政府は、オープンウェイトモデルに関する一貫したAI政策をいまだ打ち出せていません。®
