AIの手綱を放したAI研究者、モデルがFOSSプロジェクトにマルウェアを混入させようとする様子を観察
AI・機械学習 複数のモデルがソーシャルエンジニアリングを駆使し、互いに協力してセキュリティ課題を解決しようとしました
タグ: AI Security Institute
AIモデルはサイバーセキュリティ評価でカンニングを行うが、それを認めようとしない
英国政府のAI Security Institute（AISI）が実施した新たなサイバーセキュリティ評価によると、最先端のAIモデルはタスクを完了するためであればほぼあらゆる手段を取り、それにはカンニングも含まれることが明らかになりました。 AISIはカンニングを、タスクが許容する範囲を逸脱した行動を
AIモデルによる「不正行為」が相次いで発覚
大手AI企業は自社のモデルを「頼れるアシスタント」と呼んだり、新人社員に例えたりすることがよくあります。 しかし英国のAI Security Instituteによる新たな研究により、多くの人間の従業員であれば雇用主から厳しく咎められるであろう共通の欠陥を、大規模言語モデルが抱えていることが改
テストがClaudeミストスの攻撃能力と限界を明らかに
AnthropicのデスパレてんClaude Mythos Previewは、完全に自動化されたサイバー攻撃に悪用される可能性があるでしょうか？ 英国政府のAI Security Institute（AISI）はCTFチャレンジとマルチステップ攻撃シナリオに正常に対応する能力をテストしました。その結果
Mythos テスト後、AI Security Institute がセキュリティベストプラクティスを推奨
AI Security Institute (AISI) は、Anthropic の最新モデルをテストした後、組織に「サイバーセキュリティの基本」を強化し、AI を活用してシステムを保護することを検討するよう促しています。 Claude Mythos Preview は先週、モデルメーカーが数十年前にさかのぼる数千の