AIシステムは重要インフラへの「悪夢の攻撃」を完全に実行可能、備えはできていない
自律型AIシステムは、悪夢のようなサイバー攻撃シナリオを完全に実行できる能力を備えています。重要な制御技術（OT）や産業機器を見つけ出して攻撃し、水道や電力をはじめとする生活必需インフラへのアクセスを遮断することが可能です。 Booz Allen Hamiltonのレポートによると、実際にこうした攻撃が起き
タグ: フロンティアAIモデル
フロンティアモデルの暴走を受け、米大学がAIサイバーセキュリティ教育を強化
より安全で堅牢なAIを求める声が世界で高まるなか、米国の大学は、企業や政府が運用する強力なAIシステムを守れる人材を育てようと、急増するAIセキュリティ教育の需要に応えようとしています。 学部・大学院の講義から専門的な修了証（プロフェッショナル認定）まで、AIサイバーセキュリティの教育プログラムが全米各地で相次いで立
中継サーバーが隠す、米フロンティアAIモデルへの中国からのアクセス
中継サーバーからなる巨大なネットワークにより、中国のユーザーが身元や所在地を明かすことなく米国のフロンティアAIモデルにアクセスできる状態になっていることが分かりました。アクセス制限や監視を回避する目的である可能性が高いとみられます。このネットワークを流れるトラフィックの量は、フロンティアAIモデルの出力を利用し、独自
米政府、中国企業がフロンティアAIモデルから数十億トークンを抽出したと発表
米国のサイバーセキュリティ・情報機関は、中国のAI企業6社が少なくとも2024年後半から、米国のフロンティアAIモデルに対して産業規模の蒸留攻撃を行っていたと発表しました。 CISA、NSA、FBIによる共同勧告によると、DeepSeek、Moonshot AI、Alibaba、MiniMax、StepFun、Z.A
Unit 42、AIによって守る側から攻撃側へ力の均衡が移ったと警告
Unit 42の首脳陣は、フロンティアAIモデルの内部テストと、市販のAIツールが実際の攻撃で悪用されている状況を見て、本気で懸念を強めています。 パロアルトネットワークスの脅威インテリジェンス部門でシニアバイスプレジデントを務めるサム・ルービン氏は、水曜日のメディア向け説明会で「誇張ではなく、これはサイバーセキュリ
OpenAIがAIモデル開発を減速、AstraがCriticalなサイバー能力に接近
OpenAIは、初期テストにより次期システム「Astra」が同社の定めるサイバーセキュリティ能力の「Critical(重大)」しきい値に達する可能性が示されたことを受け、最新のフロンティアAIモデルの開発を一時的に減速させました。 この決定は、OpenAIとHugging Faceが関わった最近のセキュリティインシデ
フロンティアAIモデル、サイバーテスト中に実在システムへ攻撃的行動
評価環境が想定していた封じ込め境界を意図せず超えてしまったことで、フロンティアAIモデルが実際のインターネット上のシステムに対して攻撃的な行動を取っていたことが明らかになりました。 Irregular社によると、今回の問題は単一のサイバー評価シナリオに起因するもので、当初の公表前にすでに是正措置が取られていたとのこと
米政府、OpenAIのGPT-5.6「Sol」「Terra」「Luna」モデルを承認したと報じられる
トランプ政権は、これまでOpenAI製GPT-5.6の発表に課していた制限を解除したと報じられています。数週間にわたる政府主導のサイバーセキュリティ・国家安全保障審査を経て、この高度なモデルの商用展開が本格的に広がることになります。サイバーセキュリティトレーニングプラットフォーム 今回の決定は、米国のAIガバナンスに
トランプ大統領令、フロンティアモデルの自主的テストを要請
出典：Kevin Dietsch / Getty Images新たな大統領令は、連邦政府のサイバーセキュリティ強化を推進し、AnthropicのClaude MythosのようなフロンティアAIモデルへの対応準備を進めることを目的としています。ただし、民間部門の参加はあくまで任意であり、実務者への影響については今後の動
フロンティアAIモデルはマルチターンAI攻撃で崩壊する、Ciscoが発見
大規模言語モデルを探索する攻撃者は、一度拒否されてもめったに諦めない。文脈を組み替え、複数のターンをまたいで文脈を積み上げ、ペルソナを採用し、徐々にエスカレートさせる。CiscoのAI脅威インテリジェンスチームの新たな研究により、業界全体で使用されている安全性ベンチマークがこうした挙動のほぼすべてを見