Grokのチャットが注入指示を鵜呑みにする脆弱性が発覚
AIと機械学習 暗号化を一さじ加えれば、マルウェアもすんなり喉を通る Ad
タグ: チャットボット
AI法が本格施行、AIチャットボットに透明性を義務付け
欧州連合(EU)は、AI法の主要部分の施行を開始しました。これにより、チャットボットやディープフェイク、その他消費者向け人工知能(AI)システムに、目に見える形で即座に影響が及ぶことになります。 8月2日以降に目にすることが増えるのは、「これはAIです」というラベル表示の増加、強力な基盤モデルに関するより明確なル
共有されたClaudeのチャットがGoogleで検索可能な状態に
Redditユーザーの調査により、特定のGoogle検索クエリを使うことで、ユーザーが共有したClaudeの会話を見つけられることが明らかになりました。 この問題により、暗号資産ウォレットの鍵、氏名、住所、業務メモ、さらにはエロティックな内容やポリシー違反にあたるチャットまで、機密性の高い情報が露出していました。
Google、Claudeの共有リンクに含まれる機密ユーザー会話をインデックス化
Anthropicの「Claude」AIが今週末、プライバシー問題に見舞われました。数百件に及ぶ公開共有チャット会話がGoogle検索結果に表示され、共有元のユーザーが知らないうちに、また同意もないまま機密データが露出していたのです。 CSNによると、週末に発覚した事態により、Claudeの共有リンク機能が意図せずし
OpenAIがChatGPTの世界的な障害を認める
さまざまな人格や話題についてユーザーと会話できる有名なAIチャットボット、ChatGPTが、世界中で接続障害を起こしています。 OpenAIは現在、世界中のユーザーが問題を経験しており、多くのユーザーがAIにアクセスできない状態になっていることを認めています。 この障害は30分ほど前から始まりました。DownDete
専門家が明らかに、Googleのプラットフォーム上で「編集権限」たった1つから不正エージェントを作成できた
Varonisは、Google Cloud Dialogflow CXにCVEレベルの欠陥を発見。Playbooks内の悪意あるCode Blocksを悪用すれば、エージェントの乗っ取りやチャットログの窃取、認証情報の盗難が可能だった過剰な権限を持つCloud Run共有環境が原因で、1つのエージェントが侵害される
「Rogue Agent」の欠陥でGoogle Dialogflow CXのチャットボットが乗っ取り可能に
Google Cloud PlatformのDialogflow CXに存在した重大な欠陥により、攻撃者が顧客との会話を乗っ取り、検知されないままフィッシングキャンペーンを実行できることが判明しました。 Varonis Threat Labsがこの脆弱性を公表しました。「Rogue Agent」と名付けられたこの脆弱
Google Dialogflow CXの脆弱性、攻撃者がVPC-SCを回避しチャットボットの機密データを窃取可能に
Google CloudのDialogflow CXプラットフォームに存在した重大な脆弱性により、攻撃者がVPC Service Controls(VPC-SC)を回避し、機密性の高いチャットボットデータを密かに外部へ持ち出すことが可能でした。この問題は、エンタープライズ向けAI導入のセキュリティに対する重大な懸念を
Rogue Agent脆弱性がGoogle Dialogflowチャットボットを乗っ取り
王国への鍵はただ一つ 単一のチャットボットに編集権限を付与することが、システム全体を掌握するマスターキーになり得ることが判明しました。具体的には、Google Dialogflow CX内で発見された「Rogue Agent」脆弱性により、たった一つのエージェントへのアクセス権を持つ悪意ある人物が
フィッシング攻撃、偽の認証バッジ提供を装いFacebookユーザーを標的に
サイバー犯罪者がFacebook Messengerのチャットボットを悪用し、Meta For Businessのユーザーからビジネス情報やその他の機密データを盗み出すことを目的としたフィッシング攻撃を展開していたことが分かりました。 Huntressが発見したこのキャンペーンは、正規のFacebook Busines
すべての記事を読み込みました