AIコーディングエージェントがまだ信頼に値しないということを、私たちは忘れてはなりません。
イスラエルのステルス系スタートアップの研究者らは、防衛関連企業、フォーチュン500企業、大手テック企業に属する6,214件の稼働中ドメインをスキャンしました。発見された8,265件のllms.txtおよびllms-full.txtファイル(多くのサイトがllms.txtとllms-full.txtの両方をホストしていました)のうち、120件が、それぞれ異なるサイトで、登録されていない1つ以上のコードパッケージまたはドメイン名を指し示していました。AIエージェントがこうしたファイルを処理するとどうなるかを検証するため、研究者らは未登録の名前をいくつか実際に登録し、それを実行したマシンが自分たちのサーバーに接続してくるようなパッケージをホストしました。すると1時間以内に、あるフォーチュン500企業からの通信(フォンホーム)を受信しました。その後も時間が経つにつれ、フォーチュン500の別の企業やスタートアップ企業から、さらに数十件の通信が寄せられました。彼らが仕込んだビーコンは、各インストールを引き起こした親プロセスの連鎖も記録しており、最終的にClaude、OpenAIのCodex、Nous ResearchのHermesを含むコーディングエージェントが関与していたことが明らかになりました。Anthropic、OpenAI、Nous Researchは、記事公開時点で取材依頼に応じていません。
この種の問題は、いずれ悪用されることになるでしょう。SolarWinds事件のようなサプライチェーン攻撃を想像してみてください。
「信頼モデルが崩壊しているのです」と、研究者の一人であるAlon Hertz氏はインタビューで述べています。「エージェントはベンダーのドキュメントを疑うことなく事実として扱いますが、それはエージェントを監督している人間も同様です。エージェント型AIの利用は爆発的に増加しており、エージェントはSaaS、クラウド、エンドポイントといったあらゆる層に広がりつつあります。エージェントが増殖するにつれ、サプライチェーンの攻撃対象領域も拡大していきますが、現在の防御策はそれをカバーできていません」
