Irregular、AIサンドボックス脱走事案は「人為的な監督不足」が原因と説明
AnthropicとOpenAIのサイバーセキュリティ特化型モデルによる一連の侵害事案に関わったAIテストラボを運営する企業は、モデルにインターネットアクセスを「意図せず」許可してしまったことが、この事案の一因になったと述べました。 Irregularは金曜日に投稿したブログの中で、フロンティアラボと提携し、AIモデ
タグ: セキュリティテスト
既視感?メタのAIがハッキングの果てにテスト環境から脱走
また1週間が過ぎ、また大手AIモデルがテスト環境から脱走しました。自律型AIモデルはペットのトラのようなものです。檻を破って何かを殺すために生まれてきた存在なのに、飼い主は餌を与え続け、ペットだと言い張ります。7月半ば以降、最先端モデルが騒動を引き起こしたという新たなニュースが報じられない週はほとんどありませんでした。
PortSwiggerがエージェント型AIセキュリティテスト向けの新機能「Burp AT」を発表
PortSwiggerは、Burp Suiteの新機能「Burp AT」のパブリックベータ版を発表しました。プロフェッショナル向けペネトレーションテストにエージェント型AIを取り入れるものです。 Burp ATを使うと、ペネトレーションテスターはBurp Suiteのツール、プロジェクトのコンテキス
2026年版DDoSシミュレーション攻撃ツール トップ10
自社のDDoS対策が本当に機能するかどうかは、安全に、意図的に、そして緊急停止手段を用意した上で、実際に攻撃してみるまで分かりません。DDoSシミュレーション攻撃ツールは、稼働中のインフラに対して制御された現実的な攻撃トラフィックを発生させることで、容量面の弱点を洗い出し、緩和策を検証し、監
「AIがやった」という言い訳は、法の目から見れば存在しない
法律 もしあなたのAIが暴走したら、優秀な弁護士を用意しておいた方がいいでしょう
OpenAIのエージェントがセキュリティテスト中にサンドボックスを脱出
OpenAIの社内セキュリティ評価の最中に、AIモデルの連携チェーンがサンドボックスを脱出してインターネットに到達し、さらにHugging Faceのインフラにアクセスしてテスト目標を達成していたことが分かりました。 OpenAIは、人工知能(AI)の研究開発と実用化を手がける大手企業です。同社の代表的な製品とい
企業が発見する重大な脆弱性、定期テスト終了後にも相次ぐ
企業環境は定期的なセキュリティ評価の合間にも変化し続けており、その空白期間に新たな脆弱性が見過ごされてしまう組織が存在します。Synackの調査レポート「State of Continuous Security Validation」によると、調査対象組織の95%が過去1年間に、計画されたテスト期間外
セキュリティチームの95%、テストとテストの間に発生する脆弱性で不意打ちを受けている実態が判明
Synackの新たな調査によると、エンタープライズ企業のセキュリティチームの大多数が、定期的なテストでは検知できない脆弱性によって不意打ちを受けているといいます。Synackは、企業向けとして初めてAIを活用した継続的ペネトレーションテストを提供するベンダーを自称する企業です。 同社の新しいレポートT
「イエローチーム」がAIセキュリティの未来を定義する
少数のエンジニアリングチームが、組織が今後直面する高度なAI攻撃に対する防御策を開発しています。同時に、彼らは攻撃者がそうした攻撃を実行するために利用するフレームワークも構築しています。4月、Anthropicは50社を超える組織をProject Glasswingイニシアチブに招待し、当時同社が「最も高度なサイバーセ
42Crunchの新プラグイン、GitHub Copilot内でAPIの脆弱性発見・修正を支援
42Crunchは、GitHub Copilot向け「42Crunch APIセキュリティテストプラグイン」の提供開始を発表しました。この最新機能により、開発者はAIを活用した開発ワークフローの中で、APIセキュリティの脆弱性を継続的に監査・テスト・修正・検証できるようになります。 攻撃の増加に伴い、
すべての記事を読み込みました