TokyoBlackHatNews

タグ: AIハルシネーション

securityweek.com

「HalluSquatting」――AIのハルシネーションをボットネット配布の手口に変える新手法

テルアビブ大学、テクニオン、Intuitの研究者らは、AIアシスタントがハルシネーション(幻覚)を起こしやすい性質を悪用し、大規模な感染ベクターへと転換する新たな攻撃手法「HalluSquatting」の詳細を明らかにしました。 サイバーセキュリティ業界ではこれまでにも、メールやログ、コメント、メッセージ通知といった
darkreading.com

「ファントム・スクワッティング」:AIが引き起こす新たなサプライチェーン脅威

サイバー犯罪者たちは、「ファントム・スクワッティング」と呼ばれる大規模言語モデル(LLM)発の新たな攻撃手法を悪用し、ソフトウェアサプライチェーンを脅かしています。この手口では、正規ブランドに関連付けられているように見えるものの実際には存在しないドメインを登録し、AIシステムが生成するトラフィックを横取りします。実際に
darkreading.com

AIリスクが保険会社と企業双方に懸念をもたらす

AIの迅速な導入を目指す企業が、潜在的なリスクに備えた保険への需要を高める中、保険業界は大きな転換期を迎えています。特に、人間による監視プロセスが機能する前に深刻な損害を引き起こす可能性があるエージェント型AIシステムへの懸念が高まっています。現時点では、企業がAI活用の方法を模索する段階にあるため、リスク自体はまだ限
darkreading.com

放置すればAIスロップがサイバーセキュリティのストーリーテリングを滅ぼす

問い：サイバーセキュリティの情報発信におけるAIスロップの蔓延を、どう食い止めるか？エリザベス・サフラン、Looking Glass Public Relations創設者： AIスロップにストーリーテリングを殺させてはなりません。しかし、それを防ぐには互いに責任を持つことが必要です。サイバーセキュリティの情報発信につ
helpnetsecurity.com

ITプロの多くがAIハルシネーションを目撃——IT運用への影響が顕在化

自律型AIは、企業のIT环境において実際に行動を起こしています。人間の承認を待つことなく、ソフトウェアがサービスを再起動し、リスクのあるデバイスを隔離し、パッチを適用しています。こうした機能が広がりを見せる一方で、IT専門家の間ではAIの出力エラーに頻繁に遭遇するケースが報告されており、その影響は業務
koi.ai

PhantomRaven:見えない依存関係に隠されたNPMマルウェア

126個の悪意あるnpmパッケージ。ダウンロード数は86,000件超。世界中の開発者からnpmトークン、GitHub認証情報、CI/CDシークレットを積極的に窃取していました。しかも、ほとんどのセキュリティツールが依存する依存関係解析からは検知できない形で、悪意あるコードを隠していたのです。私たちはこのキャンペーンを「