TokyoBlackHatNews

タグ: AI安全対策

hackread.com

OpenAIのモデルが暗号資産ウォレットをハッキング、資金を使ってスマートコントラクトをデプロイ

OpenAIは、社内のAIモデルが暗号資産ウォレットに不正にアクセスし、許可なくSepoliaのテスト用ETHを使ってスマートコントラクトをデプロイしていたことを明らかにしました。 OpenAIの社内研究用モデルが2026年6月26日、コーディングタスクの実行中に、許可を得ずに暗号資産ウォレットを使用し、トランザクシ
techradar.com

Nvidia、AIモデルのサンドボックス脱出を阻止する新たなAI安全対策プログラムを発表

Nvidia、「最近のセキュリティインシデント」を受け、自律型エージェントへの制限を強化ソフトウェアとハードウェアの新たな安全対策により、エージェントが暴走しても防御壁を確保100社以上の顧客がすでにこの原則に沿った取り組みに合意Nvidiaは、新たなOpen Agent Safety Platformを発表しま
cyberpress.org

Anthropic、高度なコーディング能力とサイバーセキュリティ機能を備えた「Claude Fable 5.1」と「Mythos 5.1」を発表

Anthropicは、ソフトウェアエンジニアリング、企業のナレッジワーク、科学研究、そしてサイバーセキュリティ防御を対象とした最先端のAIモデル2種類、「Claude Fable 5.1」と「Claude Mythos 5.1」を発表しました。 両モデルは基本的なアーキテクチャを共有していますが、デュアルユース性のあ
malwarebytes.com

「ChatGPT for Teens」、危険な会話や宿題の抜け道問題に対応

OpenAIは、ティーンエイジャーによるChatGPT利用をめぐる批判の声に応える形で、13歳から17歳のユーザーを対象に特化したAIアシスタント版「ChatGPT for Teens」を導入しました。しかし、抜け道を探す意志の強い子どもたちをこれで抑え込めるのでしょうか。 この新版は、OpenAIがこの1年間で