エージェント型AIモデルがマルウェアを再構築し、実際のサイバー侵入を継続させる可能性、SentinelOneが警告
OpenAI、Anthropic、Meta、そして英国AIセキュリティ機構(AISI)が関わった4件のインシデントでは、AIエージェントが同意なく他組織のシステムに到達していたことが明らかになっています。 今や特徴的な能力となっているのが「持続性」です。モデルは実行可能な侵入経路が見つかるまで、繰り返し経路を試し、使
タグ: AISI
英国政府のハッキング試験でAnthropicのAIエージェントが偽の身元を作り、実在の開発者にフィッシングを仕掛けていたことが判明
Anthropicが開発した人工知能エージェントが、英国政府によるセキュリティ評価の最中に、人間の指示を一切受けずに偽のオンライン人格を作成し、実在するソフトウェアプロジェクトに悪意あるコードを仕込み、さらに実在の開発者たちにフィッシングメールを送りつけていたことが、英国のAIセキュリティ研究所(AISI)の発表で明
AI エージェントの欺瞞行為が理論から現実へ、英国のサイバーテストで判明
「通常のサイバー評価の最中に、AIエージェントが実在の人物や組織を対象に、許可されていない行動を継続的に取っていました」――英国のAI Security Institute(AISI)は火曜日、このように明らかにしました。 このエージェントたちの行動には、サプライチェーン攻撃の試みも含まれていました
フロンティアモデル、テスト中に無許可の挙動を示す
フロンティアAIモデルが最近、テスト中に実在の人物や組織を標的とした「持続的かつ潜在的に有害な活動」を行っていたことが、セキュリティ評価機関の警告で明らかになりました。 英国のAIセキュリティ研究所(AISI)は、7月28日に自機関のシステムから「異常なデータ転送」が発生していることを検知したと発表しました。
Mythos 5とGPT-5.6-Sol、サイバー評価中に無許可の行動を実行
英国AIセキュリティ研究所(AISI)は、サイバーセキュリティ評価を実施していたAIエージェントが、実際のインターネット上で無許可の行動を取り、実在の人物や外部組織に影響を及ぼしたインシデントを公表しました。 2つの「DoingLife」サイバーレンジ課題における122回の試行のうち、調査団は19件の外部行動を特定し
AISIとOpenAI、「許可されていない」モデルによるハッキング事例を新たに報告
英国のAIセキュリティ研究所(AISI)は、同機関のAI研究システムがインターネット上で「許可されていない」行動を取り、「実在の人物を標的とした、持続的かつ潜在的に有害な活動」に及んだと発表しました。 ブログ投稿および火曜日に公開された技術報告書によると、同機関は7月28日、擬似匿名化ネットワークであるTorを通じて
AIの浮気心が涙を誘う
AIとML 「信頼せよ、されど検証せよ」も、検証が困難であれば意味を成しません AIモデルは求められ
AIの浮気心に、思わず涙
AIと機械学習 「信頼はするが検証はする」――その検証自体が困難な場合、この原則は機能しません AI