「スリーパーエージェント」手口、オープンウェイトAIモデルにペイロードを隠蔽
オープンなインターネットからダウンロードしたAIモデルは、攻撃者が十分に周到であれば、悪意あるペイロードで巧妙に汚染される可能性があります。オープンウェイトAIモデルは近年、急速に普及しています。昨年初めの時点でも、McKinseyの調査では、63%の組織がこうしたモデルを利用しており、調査回答者の76%が今後数年でさ
オープンなインターネットからダウンロードしたAIモデルは、攻撃者が十分に周到であれば、悪意あるペイロードで巧妙に汚染される可能性があります。オープンウェイトAIモデルは近年、急速に普及しています。昨年初めの時点でも、McKinseyの調査では、63%の組織がこうしたモデルを利用しており、調査回答者の76%が今後数年でさ
米国土安全保障省(DHS)は、中国のAIモデル「DeepSeek」とその関連製品について、連邦政府の文民機関による使用を禁止します。 火曜日に連邦官報(Federal Register)で公示される予定の通知は、連邦調達サプライチェーン法(Federal Acquisition Supply Chain Act)と連
企業は、暗号署名による検証、敵対的テスト、継続的な監視を組み合わせ、AI導入全体にわたるリスクを管理すべきだとされています。 MicrosoftとNvidiaは、オープンウェイトAIモデルのセキュリティを、導入の全段階を通
自社のインフラでオープンウェイトのAIモデルを運用する組織は、本来ならAIプロバイダーが担う安全対策やセキュリティ対策を、自ら用意しなければならない可能性があります。MicrosoftとNVIDIAは、こうしたモデルのリスク管理に関する共同ホワイトペーパーで、このように警告しています。 オープンウェ
この研究は問題を提起しています。 重みが編集されたオープンモデルは、タスク特化のファインチューニング、マージ済みアダプター、abliterated(拒否能力除去)ビルドのいずれであっても、バックドアを抱え込む可能性があります。タイトルにabliteratedモデルを挙げたのは、中身を検証しないまま改変済みの
Ridge Securityは、AIを活用した自律型のペネトレーションテストとエージェント型レッドチーミングを中堅規模の組織向けに提供する、自己完結型ソリューション「RidgeOne」を発表しました。 RidgeOneは、同社のエージェント型セキュリティ検証プラットフォーム「RidgeGen」と、N
EUのサイバーセキュリティ機関と科学研究部門が、ダウンロードしてローカル環境で実行できる中国製のオープンウェイトAIモデルを検証しています。欧州連合サイバーセキュリティ機関(ENISA)と欧州委員会の共同研究センター(JRC)が、Politicoに対して評価の実施を認めました。The Next Webによると、
コスト圧力から、組織が検証の甘いモデルに傾くなか、コードが増えるほどリスクへの露出も増えます。 従来のサイバーセキュリティ上のリスクであれば、決定論的なツールでペネトレーションテストを実施できます。ソフトウェアがどう反応するかも
世界各国のテクノロジー企業、サイバーセキュリティ企業、AI企業が、オープンなAIシステムを米国政府に受け入れさせようとする動きを強めています。中国とのAI覇権争いが激化する中、こうしたシステムのセキュリティ上の利点を訴える一方、これを排除しようとする動きに警鐘を鳴らしています。 最初の動きは金曜日でした。76社の企業