オープンソース／オープンウェイトのAIモデルで「サイバーのサイコロ」を振る
コスト圧力から、組織が検証の甘いモデルに傾くなか、コードが増えるほどリスクへの露出も増えます。 従来のサイバーセキュリティ上のリスクであれば、決定論的なツールでペネトレーションテストを実施できます。ソフトウェアがどう反応するかも
タグ: データポイズニング
ボットネット、敵対的攻撃、データポイズニングがリーダーのAI脅威リストの上位に
企業はAIへの投資を増やす一方で、AIシステムへの攻撃を、最も対応準備が整っていない脅威に挙げています。PwCは2026年5月から7月にかけて、71カ国のビジネス・テクノロジー部門のリーダー3,934人を対象に調査を実施しました。このうちセキュリティ・テクノロジー部門の幹部の半数が、こうした攻撃を準備
ホーリー議員、OpenAIによるHugging Face侵害を追及
OpenAIは、自社のエージェントがHugging Faceに対して起こした攻撃をめぐり、連邦議会からの圧力を強めています。議員たちはAIが孕む存亡に関わるリスクへの懸念も広げつつあります。 共和党のジョシュ・ホーリー上院議員(ミズーリ州選出)は、Hugging Face侵害に至るまでのOpenAI経営陣の行動を「無
OpenAI: Hugging Faceへの侵入につながったエージェントの挙動、5月に形成
OpenAIは、自社のエージェントがHugging Faceに侵入する結果を招いた挙動が、事件発生の2ヶ月以上前に同社の研究環境内で生まれていたと明らかにしました。そのうえで、これはセキュリティ上の失敗であると同時に、アライメント(整合性)上の失敗でもあったと結論付けています。 この詳細は、このフロンティアAI企業が
進化するAIへの攻撃:TryHackMeのデモが探るプロンプトインジェクション
eSecurity Planet のコンテンツおよび製品に関する推奨事項は、編集面において独立性を保っています。パートナーへのリンクをクリックいただくことで、当社が収益を得る場合があります。 詳細はこちら 人工知能(AI)は企業セキュリティのあり方を大きく変えつつありますが、同時に攻撃者にとって新たな機
AIアシスタントのバックドア入りコード補完を暴くフォレンジックツール
開発者は日々の業務のますます多くの部分をAIコーディングアシスタントに頼るようになっており、これらのツールが次の数行を予測すると、ちらっと見ただけで多くの提案を受け入れてしまいます。こうしたツールは大量のコード集積から学習しますが、そのコードの一部は学習が始まる前に改ざんされている可能性があります。汚
新たなAIペネトレーションテストフレームワーク、プロンプトインジェクション・データポイズニング・エージェント型ツール悪用をカバー
セキュリティチームは、大規模言語モデル、検索拡張生成(RAG)プラットフォーム、自律型エージェント、AIコパイロットを業務アプリケーション内に導入する動きを加速させています。 しかし多くの組織は、依然としてWebサーバー向けに設計された従来のペネトレーションテスト手法を使い、こうしたAIシステムやAPI、エンドポイン
AIインシデントには新たな対応手順が必要 ― その構築方法とは
Opinion Jul 14, 20267 mins 従来型のセキュリティ対応手順ではAIの不具合に対処できません。企業はモデルの誤作動や法的リスクが問題化する前に把握できる、新たなアプローチを取り入れる
AIの絶え間ないパッチ対応がセキュリティ問題に
ワシントンD.C.がAnthropicのClaude Fable 5の潜在的な影響を懸念する一方、セキュリティ研究者たちは、最先端AIツールの統合が攻撃者と防御者の双方にとってデジタルセキュリティの状況をどのように変容させているかを追い続けています。 モデルのリリースペースの凄まじい速さが、パフォーマンスとセキュリテ
AI主権がデータセンターをサイバー作戦の戦略的標的にする
フロンティアAI向けに建設されたデータセンターは、所在地が判明している固定地点から数百メガワットの電力と大量の冷却水を消費します。各施設は、単一の建物内に数万基のGPU、液体冷却システム、高密度電力設備を集中させています。こうした物理的な集積によって、一国のAI能力は、敵対勢力が位置を特定し、規模を測
すべての記事を読み込みました