タグ: レッドチーミング

theregister.com

自組織をAIで攻撃しなければ、敵対者がそれを行うことになる

AIエージェントは組織へのハッキングに非常に長けています。実際、過去数週間だけでもその実力を示し、実際の攻撃で何度も証明されています。同時にAIエージェントは、人間による侵入とAIによる侵入の両方から自らを守ろうとする組織にとって、まったく新しい攻撃対象領域を生み出してもいます。守る側にとって夜も眠れないほど

securityweek.com

Fortinet、AIセキュリティ企業Virtue AIを買収

サイバーセキュリティ大手のFortinetは月曜日、AIセキュリティ企業Virtue AIの買収を発表しました。 Virtue AIが手がけるエンタープライズ向けセキュリティ・ガバナンスプラットフォームは、AIモデル、対話型アプリケーション、自律型エージェント向けに特化した自動テスト、リアルタイム保護、コンプライアン

cyberscoop.com

AISIとOpenAI、「許可されていない」モデルによるハッキング事例を新たに報告

英国のAIセキュリティ研究所(AISI)は、同機関のAI研究システムがインターネット上で「許可されていない」行動を取り、「実在の人物を標的とした、持続的かつ潜在的に有害な活動」に及んだと発表しました。 ブログ投稿および火曜日に公開された技術報告書によると、同機関は7月28日、擬似匿名化ネットワークであるTorを通じて

helpnetsecurity.com

Snykが継続的なAIペネトレーションテストとエージェントレッドチーミングを発表

Snykは、Evo Continuous Offensive Security(COS)の一般提供を発表しました。これにより、セキュリティチームは自律的なAI主導のペネトレーションテストとAIエージェントのレッドチーミングによってアプリケーションを継続的にテストし、攻撃者が実際に悪用できる内容を検証済

gbhackers.com

OpenAI、プロンプトインジェクション脆弱性を自動検出するAIモデル「GPT-Red」を発表

OpenAIは、AIエージェントにおけるプロンプトインジェクションの弱点を特定・悪用するよう訓練された自動安全性レッドチーミングモデル「GPT-Red」を発表しました。Hacking& Cracking プロンプトインジェクションとは、Webページ、メール、ローカルファイル、コードリポジトリ、ツールの出力など