英国のサイバー防御は「侵害される可能性が高い」、AI担当大臣が警告
英国のAI担当大臣、将来的にサイバー防御が「侵害される可能性が高い」と警告「暴走」AIエージェントによるインシデントを防ぐには、さらなる規制が必要英国のAI試験機関、フロンティアモデルのリリース前の安全確保を支援英国のAI担当大臣カニシカ・ナラヤン氏は、同国のサイバー防御がAIエージェントによって侵害されるのは「
タグ: AISI
GPT-6 Astra、サイバーシミュレーションで無許可のサプライチェーン攻撃を実行
英国AI安全研究所(AISI)が実施した最新の評価で、GPT-6 Astra が、シミュレーション上のサイバーセキュリティ環境において、OpenAIの従来モデルよりも高い頻度で無許可のサプライチェーン攻撃を行っていたことが明らかになりました。 この結果は、AIエージェントの高度化に伴う安全性の課題が拡大していることを
OpenAIのGPT-6 Astra、禁止されていたにもかかわらずサプライチェーン攻撃を実行
英国AI安全研究所（AISI）によると、OpenAIの「GPT-6 Astra」は、セキュリティテストの対象範囲外にあるソフトウェアに対してサプライチェーン攻撃を実行しました。 許可されていない模擬サプライチェーン攻撃の全容（出典：AISI） AISIは、一般公開に先立ってこのモデルをテストしました
エージェント型AIモデルがマルウェアを再構築し、実際のサイバー侵入を継続させる可能性、SentinelOneが警告
OpenAI、Anthropic、Meta、そして英国AIセキュリティ機構(AISI)が関わった4件のインシデントでは、AIエージェントが同意なく他組織のシステムに到達していたことが明らかになっています。 今や特徴的な能力となっているのが「持続性」です。モデルは実行可能な侵入経路が見つかるまで、繰り返し経路を試し、使
英国政府のハッキング試験でAnthropicのAIエージェントが偽の身元を作り、実在の開発者にフィッシングを仕掛けていたことが判明
Anthropicが開発した人工知能エージェントが、英国政府によるセキュリティ評価の最中に、人間の指示を一切受けずに偽のオンライン人格を作成し、実在するソフトウェアプロジェクトに悪意あるコードを仕込み、さらに実在の開発者たちにフィッシングメールを送りつけていたことが、英国のAIセキュリティ研究所(AISI)の発表で明
AI エージェントの欺瞞行為が理論から現実へ、英国のサイバーテストで判明
「通常のサイバー評価の最中に、AIエージェントが実在の人物や組織を対象に、許可されていない行動を継続的に取っていました」――英国のAI Security Institute(AISI)は火曜日、このように明らかにしました。 このエージェントたちの行動には、サプライチェーン攻撃の試みも含まれていました
フロンティアモデル、テスト中に無許可の挙動を示す
フロンティアAIモデルが最近、テスト中に実在の人物や組織を標的とした「持続的かつ潜在的に有害な活動」を行っていたことが、セキュリティ評価機関の警告で明らかになりました。 英国のAIセキュリティ研究所(AISI)は、7月28日に自機関のシステムから「異常なデータ転送」が発生していることを検知したと発表しました。
Mythos 5とGPT-5.6-Sol、サイバー評価中に無許可の行動を実行
英国AIセキュリティ研究所(AISI)は、サイバーセキュリティ評価を実施していたAIエージェントが、実際のインターネット上で無許可の行動を取り、実在の人物や外部組織に影響を及ぼしたインシデントを公表しました。 2つの「DoingLife」サイバーレンジ課題における122回の試行のうち、調査団は19件の外部行動を特定し
AISIとOpenAI、「許可されていない」モデルによるハッキング事例を新たに報告
英国のAIセキュリティ研究所(AISI)は、同機関のAI研究システムがインターネット上で「許可されていない」行動を取り、「実在の人物を標的とした、持続的かつ潜在的に有害な活動」に及んだと発表しました。 ブログ投稿および火曜日に公開された技術報告書によると、同機関は7月28日、擬似匿名化ネットワークであるTorを通じて
AIの浮気心が涙を誘う
AIとML 「信頼せよ、されど検証せよ」も、検証が困難であれば意味を成しません AIモデルは求められ
すべての記事を読み込みました