CISA、重要インフラ事業者向けの無料サイバーセキュリティ評価6種を廃止
米サイバーセキュリティ・インフラセキュリティ庁(CISA)は、重要インフラ組織向けに提供してきた無料評価サービスを縮小しており、これは同庁の核心的使命である「国家インフラの防護支援」からの大きな後退を意味する動きです。 CISAが確認したところによると、同庁の地域担当スタッフは今後、サイバーレジリエンスレビュー(Cy
タグ: サイバーセキュリティ評価
AIエージェント、サイバーセキュリティ評価中に意図せずインターネットへアクセス
AIセキュリティ評価企業が、統制されたサイバーセキュリティテストの最中に複数の最先端AIモデルが意図せずインターネットに接続されたシステムに実際にアクセスし、行動を起こしていたことを明らかにしました。 この問題はすでに解決済みですが、原因は単一の評価シナリオにありました。インターネットアクセスが許可された状態で、架空
フロンティアAIモデル、サイバーテスト中に実在システムへ攻撃的行動
評価環境が想定していた封じ込め境界を意図せず超えてしまったことで、フロンティアAIモデルが実際のインターネット上のシステムに対して攻撃的な行動を取っていたことが明らかになりました。 Irregular社によると、今回の問題は単一のサイバー評価シナリオに起因するもので、当初の公表前にすでに是正措置が取られていたとのこと
AIハッキング事案の背景にあるIrregular社、被害が他にもあったかどうかは明言せず
Anthropic、OpenAI、MetaのAIモデルが実際のコンピューターシステムを侵害するというテストの背景にいたサイバーセキュリティ評価企業Irregularは、同社の他の顧客が同じ根本的な欠陥の影響を受けていたかどうかについて、明言を避けています。 公になっている企業だけがこの問題を経験した唯一の存在なのか
Meta、OpenAI、AnthropicのAIエージェントがIrregularのテストで暴走
Metaも仲間入り、OpenAI・Anthropicに続き最新のAIテスト侵害 数週間で3件目の開示、最先端AIモデルをサイバー評価時にどう封じ込めるかに新たな懸念 Metaは、AI安全性スタ
Meta、AIモデルによる他組織への自律的な攻撃を確認
Metaは、制御されたサイバーセキュリティ評価の最中にAIエージェントが他組織のオンラインシステムにアクセスしたことを公表した、最新のテクノロジー企業となりました。 この事態を受けて、自律型モデルを取り巻く安全対策や、エージェント型AIのテスト環境に対する監視の目が一段と厳しくなっています。MachineLearni
Microsoftのバグ報奨金支払額、研究者参加急増で2,000万ドルに到達
eSecurity Planet のコンテンツおよび製品紹介は編集上の独立性を保っています。当サイトのリンクをクリックしていただくことで、収益が発生する場合があります。 詳細はこちら サイバー評価テストの最中に、AIエージェントが一線を越える行動を取っていたことが明らかになりました。 英国のAI安全性
英国のAIテストで、AnthropicとOpenAIのモデルが関与した19件の無許可エージェント行動が判明
eSecurity Planet のコンテンツおよび製品紹介は編集上の独立性を保っています。当サイトはパートナーへのリンクをクリックいただくことで収益を得る場合があります。 詳しくはこちら サイバーセキュリティ評価の最中に、AIエージェントが一線を越えていました。 英国のAIセキュリティ研究所(AISI)
Anthropicの「Claude」、セキュリティテスト中に3社のシステムへ不正侵入
Anthropicは、自社のAIモデル「Claude」がサイバーセキュリティ評価の最中に、3つの異なる組織のシステムへ不正アクセスしていたことを明らかにしました。 今回の公表は、OpenAIが7月21日に発表した事案に続くものです。同社のモデルの一部が、これまで知られていなかった脆弱性を悪用して隔離
OpenAIの情報開示を受け、Anthropicも自社モデルが3組織をハッキングしていたことを発見
Anthropicは木曜日、同社のClaudeモデルの一部が課題を解こうとする過程でテスト環境から抜け出し、3つの組織のシステムに侵入していたことを明らかにしました。 今回の公表は、OpenAIが自社モデルが隔離環境と思われていた場所から抜け出し、Hugging Faceに侵入したほか他の組織にも侵入したことを明らか
すべての記事を読み込みました