専門家が明らかに、Googleのプラットフォーム上で「編集権限」たった1つから不正エージェントを作成できた
Varonisは、Google Cloud Dialogflow CXにCVEレベルの欠陥を発見。Playbooks内の悪意あるCode Blocksを悪用すれば、エージェントの乗っ取りやチャットログの窃取、認証情報の盗難が可能だった過剰な権限を持つCloud Run共有環境が原因で、1つのエージェントが侵害される
タグ: チャットボット
「Rogue Agent」の欠陥でGoogle Dialogflow CXのチャットボットが乗っ取り可能に
Google Cloud PlatformのDialogflow CXに存在した重大な欠陥により、攻撃者が顧客との会話を乗っ取り、検知されないままフィッシングキャンペーンを実行できることが判明しました。 Varonis Threat Labsがこの脆弱性を公表しました。「Rogue Agent」と名付けられたこの脆弱
Google Dialogflow CXの脆弱性、攻撃者がVPC-SCを回避しチャットボットの機密データを窃取可能に
Google CloudのDialogflow CXプラットフォームに存在した重大な脆弱性により、攻撃者がVPC Service Controls(VPC-SC)を回避し、機密性の高いチャットボットデータを密かに外部へ持ち出すことが可能でした。この問題は、エンタープライズ向けAI導入のセキュリティに対する重大な懸念を
Rogue Agent脆弱性がGoogle Dialogflowチャットボットを乗っ取り
王国への鍵はただ一つ 単一のチャットボットに編集権限を付与することが、システム全体を掌握するマスターキーになり得ることが判明しました。具体的には、Google Dialogflow CX内で発見された「Rogue Agent」脆弱性により、たった一つのエージェントへのアクセス権を持つ悪意ある人物が
フィッシング攻撃、偽の認証バッジ提供を装いFacebookユーザーを標的に
サイバー犯罪者がFacebook Messengerのチャットボットを悪用し、Meta For Businessのユーザーからビジネス情報やその他の機密データを盗み出すことを目的としたフィッシング攻撃を展開していたことが分かりました。 Huntressが発見したこのキャンペーンは、正規のFacebook Busines
AnthropicのIPO申請翌日、Claudeが大規模障害——最悪のタイミングで
AI + ML チャットボットが、開発元の重要な財務発表のタイミングをまったく考慮しない事態に 開発元のAnthro
Amazonの迅速な脆弱性により、制限されたAIチャットエージェントが未承認ユーザーに露出
AmazonのAI駆動型ビジネスインテリジェンスプラットフォームにおける一見無害に思える見落としが、管理者によるロックアウトをバックドアに変えました。 研究者は、特定のユーザーに対してAIチャットエージェントをシャットダウンするよう設計されたカスタム権限設定が、フロントエンドでのみ強制され、APIレベルではまったく強
研究者が1931年より前の知識しか持たないチャットボットを構築
インターネット上のチャットボットは、あなたの叔父が化学物質散布について書いたあらゆるフォーラムの長文、流出したSlackのログ、そして根拠のない確信に満ちたブログ記事をすべて読んでいます。その結果は予測可能です。インターネットの現状を反映しており、決して美しくはありません。これと、いくつかの問題のある設計判断が相
詐欺チェックがはるかに簡単に：Malwarebytesが今Claudeに登場
長年にわたり、Malwarebytesは人々がいる場所で彼らを保護してきました。そして今日、人々はますますAIツール内にいます。これらのチャットボットが、面接で何を着るか、自宅でペンダントライトを交換する方法、今後の旅行中にどこで食べるかなど、より多くの日常的な質問に取り組んでいるにつれて、人々が同じツールにオン
カモにされやすい人間へのフィッシング同様、AIへのプロンプトインジェクション攻撃は続く
kettle 今週のニュースでは、またもや新たなプロンプトインジェクション攻撃が発見されました。この攻撃により、厳重に守られているはずのAIボットが、正しい方法で問いかけられると秘密を漏らしてしまいます。 考えてみると、人間と大規模言語モデル（LLM）は同じような問題を抱えています。どちらも、ずる賢い人間
すべての記事を読み込みました