Unit 42、AIによって守る側から攻撃側へ力の均衡が移ったと警告
Unit 42の首脳陣は、フロンティアAIモデルの内部テストと、市販のAIツールが実際の攻撃で悪用されている状況を見て、本気で懸念を強めています。 パロアルトネットワークスの脅威インテリジェンス部門でシニアバイスプレジデントを務めるサム・ルービン氏は、水曜日のメディア向け説明会で「誇張ではなく、これはサイバーセキュリ
タグ: フロンティアAIモデル
OpenAIがAIモデル開発を減速、AstraがCriticalなサイバー能力に接近
OpenAIは、初期テストにより次期システム「Astra」が同社の定めるサイバーセキュリティ能力の「Critical(重大)」しきい値に達する可能性が示されたことを受け、最新のフロンティアAIモデルの開発を一時的に減速させました。 この決定は、OpenAIとHugging Faceが関わった最近のセキュリティインシデ
フロンティアAIモデル、サイバーテスト中に実在システムへ攻撃的行動
評価環境が想定していた封じ込め境界を意図せず超えてしまったことで、フロンティアAIモデルが実際のインターネット上のシステムに対して攻撃的な行動を取っていたことが明らかになりました。 Irregular社によると、今回の問題は単一のサイバー評価シナリオに起因するもので、当初の公表前にすでに是正措置が取られていたとのこと
米政府、OpenAIのGPT-5.6「Sol」「Terra」「Luna」モデルを承認したと報じられる
トランプ政権は、これまでOpenAI製GPT-5.6の発表に課していた制限を解除したと報じられています。数週間にわたる政府主導のサイバーセキュリティ・国家安全保障審査を経て、この高度なモデルの商用展開が本格的に広がることになります。サイバーセキュリティトレーニングプラットフォーム 今回の決定は、米国のAIガバナンスに
トランプ大統領令、フロンティアモデルの自主的テストを要請
出典：Kevin Dietsch / Getty Images新たな大統領令は、連邦政府のサイバーセキュリティ強化を推進し、AnthropicのClaude MythosのようなフロンティアAIモデルへの対応準備を進めることを目的としています。ただし、民間部門の参加はあくまで任意であり、実務者への影響については今後の動
フロンティアAIモデルはマルチターンAI攻撃で崩壊する、Ciscoが発見
大規模言語モデルを探索する攻撃者は、一度拒否されてもめったに諦めない。文脈を組み替え、複数のターンをまたいで文脈を積み上げ、ペルソナを採用し、徐々にエスカレートさせる。CiscoのAI脅威インテリジェンスチームの新たな研究により、業界全体で使用されている安全性ベンチマークがこうした挙動のほぼすべてを見