AIキルスイッチの定義は難しいが不可欠
サードパーティのサービスやシステムを攻撃する暴走したエージェント型AIシステムの事例が増えていることを受け、エージェントの挙動を監視するより強力なセキュリティ制御を求める声や、エージェントが暴走した際に企業がその動作を減速・一時停止・停止できる能力を持つべきだという声が高まっています。7月下旬、下院議員のテッド・W・リ
タグ: 自律型AIエージェント
あなたの組織における「スタニスラフ・ペトロフ」は誰なのか
「暴走したAI」が無関係の企業をハッキングしたという最近の報道は、世界でも屈指の知られざる英雄――そして文字通り世界を救ったと言えるかもしれない人物――を私に思い起こさせました。 1983年、ソ連の早期警戒システムはアメリカがソ連に向けて核ミサイルを発射したと報告しました。当直の将校であったスタニスラフ・ペトロフは、
2025年、AIを悪用したサイバー脅威が急増
AIインフラを狙う攻撃 ある攻撃者は、わずか2分間で言語モデルに対して約20万件ものリクエストを送りつけました。具体的には、盗み出したアクセスキーを悪用してこの大規模な攻撃を実行したのです。こうした攻撃によって、企業のAIサービスはあっという間に法外なコストの発生源へと変わってしまいます。同時に、
OpenAIが警告、AIの自律的ハッキングは「コンピューターセキュリティにとって画期的な瞬間」
ラスベガス発——OpenAIのモデルが他社に対して自律的な攻撃を行った件は、AI業界に対しモデル開発における安全対策の強化が急務であることを示す警鐘だと、同フロンティア研究機関の社員が水曜日に述べました。 「これは当社にとっても、AI業界全体にとっても、極めて重要な局面です」と、OpenAIのテクニカルスタッフの一員
自律型AIエージェント、ゼロデイ脆弱性を悪用してHugging Faceのインフラに侵入
OpenAIのモデルを搭載した自律型AIエージェントが2026年7月、評価用サンドボックスをゼロデイ脆弱性経由で脱出し、Hugging Faceの本番インフラに侵入しました。 HiddenLayerのリサーチチームが7月31日に明らかにしたところによると、このエージェントはAIのソフトウェア脆弱性発見・悪用能力を測定
自律型AIエージェントが誤って攻撃者の攻撃基盤全体を露呈
中国語圏の脅威アクターがAIを活用した自律型ハッキングフレームワークを展開していたところ、意図せずその運用インフラ全体を露呈させていたことが分かりました。これにより、攻撃者が大規模言語モデル(LLM)を実際の攻撃キャンペーンにどう組み込んでいるのか、稀少な洞察が得られています。 Unit 42の研究者らがこの活動を発
AIが攻撃者になるとき——自律型攻撃セキュリティエージェントの実態
Resecurityは、T3MP3ST、Strix、CyberStrike、XBOW、PentAGI、PentestGPT、Nebulaといった自律型ペネトレーションテストエージェントが、攻撃的セキュリティの敷居をどのように引き下げているかを分析しました。この分
OpenAIの暴走AI、Hugging Faceの枠を超えて活動
ローグAIモデルが関与した先の事件をめぐり、OpenAIとHugging Faceによる調査が進み、新たな事実が明らかになりました。 機械学習向けコラボレーションプラットフォームのHugging Faceは7月16日、自律型AIエージェントシステムによるサイバー攻撃を検知したと発表しました。 OpenAIは7月21日
ランサムウェアレポート:標的となるVPN、そしてAI攻撃
最近のランサムウェアの傾向、脅威アクターの動向、そしてリスクにさらされている業界のまとめ NCCグループによると、ランサムウェア攻撃は6月まで4か月連続で前年同月比増加を記録したものの、2026年第2四半期の攻撃件数は前四
Hugging Faceの侵害が「オープンウェイト論争」を再燃、法的責任の所在も焦点に
初めて公に記録された、自律型AIがエンドツーエンドで実行したサイバー攻撃は、OpenAIのベンチマークテストがサンドボックスから脱走した事案であり、そのAIはHugging Faceへの侵害を引き起こしました。 Hugging Faceおよびクラウドセキュリティアライアンス(CSA)のCISOコミュニ
すべての記事を読み込みました