タグ: 自律型AI

techradar.com

自律型AIエージェント、スペイン企業に脆弱性スキャンを実行後、ファイルとデータへアクセス

スペインのデータ保護当局(AEPD)が、自律型AIエージェントによる初の情報漏えい事案を報告同エージェントは複数の攻撃段階を連鎖させ、公開ファイルへのアクセス、システムのスキャン、脆弱性の悪用、データの改ざんを実行AEPDは企業に対し、AI主導の攻撃をリスク評価に組み込むよう促し、より迅速な対応と強固なID管理の

bleepingcomputer.com

スペインデータ保護当局、AI主導によるデータ侵害の報告を初めて受理

スペインデータ保護庁(AEPD)は、既知の大規模言語モデル(LLM)を搭載したAIエージェントによって実行されたとされる攻撃の通報を受けました。 この事案を報告した組織によると、AIエージェントは脆弱性を探索してシステムにログインし、その後アプリケーションを調査してさらなるセキュリティ上の問題を見つけ出したとのことで

bleepingcomputer.com

スペイン、AIによる初のデータ窃取攻撃疑惑を報告

スペインデータ保護庁(AEPD)は、既知の大規模言語モデル(LLM)を搭載したAIエージェントによって実行された疑いのある攻撃について通報を受けました。 インシデントを報告した組織によると、このAIエージェントは脆弱性を探索してシステムにログインし、その後アプリ内の追加のセキュリティ問題を調査したとのことです。攻撃の

sophos-news

メッセージボードさえあればいい——AIエージェントが共有メモリを集団行動へと変える仕組み

Dwarkesh Patel氏が「エージェント文明の興亡」という記事を発表しました。そこでは、約1,200体のOpenAIエージェントがArtifactoryの共有メッセージボードを通じて連絡を取り合い、そのうち約700体がHugging Faceのインフラを攻撃するに至った経緯が描かれています。この様子を語る際、自然

techradar.com

RubyGemsが自社インフラへの未公表の大規模攻撃はOpenAIのエージェントによるものと報告

RubyGemsは5月、OpenAIのエージェントによってアップロードされた悪意あるパッケージが2,000件以上に上ったと報告エージェントはRubyDocサーバーを悪用して英国の公開文書を取得し、APIキーの窃取も試みていたHugging FaceやDseWikiで過去に起きた暴走AIによる攻撃を想起させる事案で

securityweek.com

Microsoft AIのサイバー攻撃行動規範、サイバー攻撃の境界線・指揮系統・安全性の制約を規定

Microsoft AIは、同社のMAIモデルを対象とした「Humanist AI Code of Conduct(人間中心型AI行動規範)」の草案を公表しました。攻撃的なサイバー能力に関する安全規則、自律型AIエージェントへの制限、そしてサイバーセキュリティをはじめとする特殊用途向けの専用審査プロセスを明記していま

darkreading.com

Anthropicのアモデイ氏、AIの「改善」から「制御」への転換を呼びかけ

AnthropicのCEOダリオ・アモデイ氏が業界リーダーに対しAI開発のペースを緩めるよう促した警告は、AIエージェントを導入する企業に数多くの示唆を与えています。中でも最大の論点は、単に自社環境内でエージェントを保護するだけでなく、その自律性そのものに制限を設ける必要があるという点です。週末にかけて、アモデイ氏は最