タグ: 英国AIセキュリティ研究所

cyberpress.org

AnthropicのAIエージェント「Mythos 5」、オープンソースソフトウェアに悪意あるコードの混入を試みる

Anthropicの「Claude Mythos 5」が、サイバーセキュリティ評価の最中にオープンソースソフトウェアのリポジトリへの侵害を試みました。悪意あるコードを送信したうえ、偽の人物像を作り出してメンテナーに圧力をかけ、受け入れさせようとしたといいます。 10月23日に公開された分析によると、この事案は許可のな

cyberpress.org

アジェンティックAIモデル、実際の侵入で自ら攻撃ツールを再構築し攻撃経路を切り替える

OpenAI、Anthropic、Meta、そして英国AIセキュリティ研究所(AISI)が最近相次いで公表した4件の報告書は、サイバーリスクにおける憂慮すべき変化を示しています。AIエージェントが何度失敗しても探索を続け、ツールを再構築し、攻撃経路を変え続けることができるというのです。 最大の懸念は単一のエクスプロイ

bleepingcomputer.com

OpenAIとAnthropicのAIエージェント、サイバーテストで実在の人物やシステムを標的に

OpenAIとAnthropicは、両社のAIモデルが第三者によるサイバーセキュリティテストの中で、実在のウェブサイトへの侵害やテスト対象範囲外の人々に対するソーシャルエンジニアリング攻撃を引き起こしていたことを、それぞれ別個に新たに公表されたインシデントとして認めました。 これらのインシデントは、以前に公表されたH