タグ: エージェント型AI

darkreading.com

AIキルスイッチの定義は難しいが不可欠

サードパーティのサービスやシステムを攻撃する暴走したエージェント型AIシステムの事例が増えていることを受け、エージェントの挙動を監視するより強力なセキュリティ制御を求める声や、エージェントが暴走した際に企業がその動作を減速・一時停止・停止できる能力を持つべきだという声が高まっています。7月下旬、下院議員のテッド・W・リ

cyberscoop.com

Unit 42、AIによって守る側から攻撃側へ力の均衡が移ったと警告

Unit 42の首脳陣は、フロンティアAIモデルの内部テストと、市販のAIツールが実際の攻撃で悪用されている状況を見て、本気で懸念を強めています。 パロアルトネットワークスの脅威インテリジェンス部門でシニアバイスプレジデントを務めるサム・ルービン氏は、水曜日のメディア向け説明会で「誇張ではなく、これはサイバーセキュリ

esecurityplanet.com

シスコの調査レポートが示す、AIエージェントによるサイバーセキュリティ職の変化

eSecurity Planet のコンテンツおよび製品に関する推奨事項は、編集上の独立性を保っています。当サイトのリンクを経由してパートナー先で契約が成立した場合、収益が発生することがあります。 詳細はこちら AIエージェントは、すでにサイバーセキュリティ専門家が日々実際に行う業務を変えつつあります。

securityweek.com

CISOカンファーセーションズ: クリス・ウィーラー氏 ― 信頼こそが仕事、海軍からC-Suiteへ

クリス・ウィーラー氏はResilienceのCISOです。同氏はサイバーセキュリティ分野で長いキャリアを積んできました。Efflux Systemsで脅威リサーチャー・アナリストを務めた後、Arbor Networksで脅威アナリティクス・マネージャーを歴任。その後Resilienceに脅威インテリジェンス・リードと

darkreading.com

隠されたプロンプトがAIを騙し、誤ったメール要約を生成させる

新たな研究により、攻撃者がメールに隠した指示文を使ってAIアシスタントを操り、受信者に対して虚偽の、場合によっては危険な要約を生成させられることが明らかになりました。この研究はForcepoint X-Labsの研究者らによるもので、攻撃者が間接的なプロンプトインジェクションを使ってAIシステムを乗っ取り、外部コンテン

securityweek.com

AI時代を見据えたアプリケーションセキュリティの再考

前回のコラムでは、フロンティアAIというテーマを取り上げ、ベンダーが謳う本物のAI機能とマーケティング上の誇大表現を、企業がどう見分ければよいかについて論じました。その記事では、企業が自社アプリケーションに関して、脆弱性の特定・緩和・パッチ適用のペースがますます加速する中で、それに追いつけなくなるのではないかという懸