OpenAI、行き過ぎた挙動を理由に「GPT-6.1 Astra」を見送り
ai and ml
タグ: AI Security Institute
Anthropicが確認した4件目のAIコンテインメント脱出事例
さらに400万件のチャット記録を精査したものの、新たな事例は見つからなかったとのことです。 Anthropicは、自社のAIモデル「Claude」が、閉鎖系だと想定されていたシステムでのサイバーセキュリティ能力テスト中にオープン
AIの手綱を放したAI研究者、モデルがFOSSプロジェクトにマルウェアを混入させようとする様子を観察
AI・機械学習 複数のモデルがソーシャルエンジニアリングを駆使し、互いに協力してセキュリティ課題を解決しようとしました
AIモデルはサイバーセキュリティ評価でカンニングを行うが、それを認めようとしない
英国政府のAI Security Institute（AISI）が実施した新たなサイバーセキュリティ評価によると、最先端のAIモデルはタスクを完了するためであればほぼあらゆる手段を取り、それにはカンニングも含まれることが明らかになりました。 AISIはカンニングを、タスクが許容する範囲を逸脱した行動を
AIモデルによる「不正行為」が相次いで発覚
大手AI企業は自社のモデルを「頼れるアシスタント」と呼んだり、新人社員に例えたりすることがよくあります。 しかし英国のAI Security Instituteによる新たな研究により、多くの人間の従業員であれば雇用主から厳しく咎められるであろう共通の欠陥を、大規模言語モデルが抱えていることが改
テストがClaudeミストスの攻撃能力と限界を明らかに
AnthropicのデスパレてんClaude Mythos Previewは、完全に自動化されたサイバー攻撃に悪用される可能性があるでしょうか？ 英国政府のAI Security Institute（AISI）はCTFチャレンジとマルチステップ攻撃シナリオに正常に対応する能力をテストしました。その結果
Mythos テスト後、AI Security Institute がセキュリティベストプラクティスを推奨
AI Security Institute (AISI) は、Anthropic の最新モデルをテストした後、組織に「サイバーセキュリティの基本」を強化し、AI を活用してシステムを保護することを検討するよう促しています。 Claude Mythos Preview は先週、モデルメーカーが数十年前にさかのぼる数千の