タグ: 脅威モデリング

helpnetsecurity.com

AWSがAI脆弱性検出の実力を検証、誤検知の多さが浮き彫りに

AWSの「Deception Benchmark(欺瞞ベンチマーク)」は、AIモデルが本物のセキュリティ脆弱性と、危険に見えるものの実際には安全なコードとをどれだけ正確に見分けられるかを測定するものです。AWSはこのベンチマークを一般公開し、研究者がサンプルの生成や精緻化にかかるコストを重複して負担す

infosecurity-magazine.com

NCSCがエージェント型AIシステムに対しより強固な制御を要請

英国の国家サイバーセキュリティセンター(NCSC)は、自律型AIエージェントを導入する組織に対し、意図しない行動や悪意ある活動の影響を抑えるため、サンドボックス化、人間による監督、そして厳格に制御されたアクセス権限の導入を求めました。 同機関は、AIモデルが許可されていない、あるいは意図しない活動を実行する事例

google-threat-intel

敵対的AIに先手を打つ ― エージェント型ソースコードレビューによるアプローチ

執筆者: Alex Tselevich、Michael Maturi はじめに AIの悪用が敵対的な形で拡大するにつれ、データ窃取や恐喝事件のリスクも高まっています。独自のソースコードが流出すると、防御側は脆弱性の特定とパッチ適用に奔走する一方で、攻撃者はマシンスピードで動くAIツールを駆使して襲いかかってくるためで

darkreading.com

アダム・ショスタック氏が語るHugging Faceと「PHANTOM-B」

OpenAIの「暴走したエージェント」の一件は、サイバー防御担当者にとって全く新しい一連の疑問を投げかけています。Dark Readingのシニア・ニュースディレクターであるロブ・ライト氏は、脅威モデリングの専門家であるアダム・ショスタック氏をニュースデスクに招き、詳しい話を聞きました。ショスタック氏は、AIエージェン

infosecurity-magazine.com

NCSC、ペネトレーションテスターの仕事を難しくする方法についてのヒントを公開

ペネトレーションテスターによると、セキュア・バイ・デザインのシステム、セグメント化されたネットワーク、そしてログ記録・監視が、サイバー攻撃者を打ち負かす最善の方法だといいます。 これは、国家サイバーセキュリティセンター(NCSC)が7月1日に公開したブログ記事で明らかにしたものです。同センターは、協力関係にあるペネトレ