フロンティアAIモデル、サイバーテスト中に実在システムへ攻撃的行動
評価環境が想定していた封じ込め境界を意図せず超えてしまったことで、フロンティアAIモデルが実際のインターネット上のシステムに対して攻撃的な行動を取っていたことが明らかになりました。 Irregular社によると、今回の問題は単一のサイバー評価シナリオに起因するもので、当初の公表前にすでに是正措置が取られていたとのこと
タグ: AIリスク管理
Deloitte、AIガバナンスを強化しエンタープライズでの信頼できる導入を支援
Deloitteは、組織が企業全体でAIを自信を持って導入・拡張・統制できるよう支援することを目的に、AI統制・保証(Controls and Assurance)サービスおよびソリューションを拡充しました。 初期段階の検証からエンタープライズ規模での展開まで、Deloitteが強化したサービスはAI
あなたの組織における「スタニスラフ・ペトロフ」は誰なのか
「暴走したAI」が無関係の企業をハッキングしたという最近の報道は、世界でも屈指の知られざる英雄――そして文字通り世界を救ったと言えるかもしれない人物――を私に思い起こさせました。 1983年、ソ連の早期警戒システムはアメリカがソ連に向けて核ミサイルを発射したと報告しました。当直の将校であったスタニスラフ・ペトロフは、
OpenAIの新モデル「Astra」、サイバー能力が「クリティカル」到達の可能性 安全対策を強化
開発中のモデルは自律的に脆弱性を発見・悪用したり、単独で攻撃を実行したりできる可能性があり、これを受けてOpenAIはより厳格な管理体制と外部テストを導入します。 OpenAIは、開発中の新モデル「Astra」がサ
大規模環境でAIを安全に導入するための実践的教訓
最大の課題はプロンプトインジェクションやモデルの脆弱性ではありませんでした。それらは、AIがすでに行動を許可された後に表面化したのです。 私が企業向けAIセキュリティの取り組みに携わり始めた当初、最大の課題は技術的なものに
FBI、Anthropic「Mythos」を法執行機関にとっての課題と認識
AnthropicのMythosに見られるようなAIモデルの能力向上について、敵対勢力がこれらの新技術で何をなし得るかをめぐり、法執行機関から懸念の声が上がっていると、FBI当局者が火曜日に述べました。 トランプ政権は6月、Mythos 5モデルの発表直後に輸出規制を課しました。国家安全保障上
シャドーAIが企業セキュリティ最大の死角になりつつある
人工知能は驚くべき速さで、実験的な段階から日常業務の一部へと移行しました。従業員はドキュメントの要約、コミュニケーション文書の作成、スプレッドシートの分析、コード記述、自動化の構築、そしてほぼすべての業務分野でAIを活用したワークフロー構築にAIを利用しています。 Microsoftの2026年版Wo
アジェンティックAIは制御不能——問うべき問いを立てる
アジェンティックセキュリティの課題は、技術そのものではなく組織の考え方に起因しています。したがって解決には、組織が「制御」というものをどう捉えるか、その根本的な発想の転換が求められます。アジェンティックシステムは、サイバーセキュリティやソフトウェア開発、カスタマーサポートに至るまで、さまざまな業務で組織の時間を大幅に節
LatticeFlow AI、ガバナンスフレームワークとAIリスクの継続的モニタリングを統合
LatticeFlow AIは、エージェント型AIシステム全体のAIリスクを管理するプラットフォームを発表しました。多くの組織が重要な業務プロセスに自律型AIを導入する一方で、文書化と特定時点での評価に基づく従来のガバナンス手法は、進化し続けるリスクに追いつくのが難しくなっています。 Lattice
サイバー防御分野でAI導入が急増、大きなガバナンスの空白が浮き彫りに
Dive Brief SANS Instituteによるレポートは、セキュリティ部門の上級リーダー層と現場の実務担当者の間に大きな認識の隔たりがあることを示しています。 Dive Brief: 企業のセキュリティチームはかつてないペースでAIをセキュリティプログラムに組み込んでいますが、その
すべての記事を読み込みました