タグ: オープンウェイトAI

darkreading.com

「スリーパーエージェント」手口、オープンウェイトAIモデルにペイロードを隠蔽

オープンなインターネットからダウンロードしたAIモデルは、攻撃者が十分に周到であれば、悪意あるペイロードで巧妙に汚染される可能性があります。オープンウェイトAIモデルは近年、急速に普及しています。昨年初めの時点でも、McKinseyの調査では、63%の組織がこうしたモデルを利用しており、調査回答者の76%が今後数年でさ

helpnetsecurity.com

オープンウェイトAI、セキュリティ対策の負担は企業側に

自社のインフラでオープンウェイトのAIモデルを運用する組織は、本来ならAIプロバイダーが担う安全対策やセキュリティ対策を、自ら用意しなければならない可能性があります。MicrosoftとNVIDIAは、こうしたモデルのリスク管理に関する共同ホワイトペーパーで、このように警告しています。 オープンウェ

schneier.com

オープンウェイトAIモデルへのバックドア埋め込み

この研究は問題を提起しています。 重みが編集されたオープンモデルは、タスク特化のファインチューニング、マージ済みアダプター、abliterated(拒否能力除去)ビルドのいずれであっても、バックドアを抱え込む可能性があります。タイトルにabliteratedモデルを挙げたのは、中身を検証しないまま改変済みの

helpnetsecurity.com

Ridge Security、自律型ペネトレーションテストのデータを顧客環境内に留める「RidgeOne」を発表

Ridge Securityは、AIを活用した自律型のペネトレーションテストとエージェント型レッドチーミングを中堅規模の組織向けに提供する、自己完結型ソリューション「RidgeOne」を発表しました。 RidgeOneは、同社のエージェント型セキュリティ検証プラットフォーム「RidgeGen」と、N

esecurityplanet.com

EU機関、中国製オープンウェイトAIモデルを検証

EUのサイバーセキュリティ機関と科学研究部門が、ダウンロードしてローカル環境で実行できる中国製のオープンウェイトAIモデルを検証しています。欧州連合サイバーセキュリティ機関(ENISA)と欧州委員会の共同研究センター(JRC)が、Politicoに対して評価の実施を認めました。The Next Webによると、

cybersecuritydive.com

米テック業界大手、AIの開放性と透明性を米国に求める

世界各国のテクノロジー企業、サイバーセキュリティ企業、AI企業が、オープンなAIシステムを米国政府に受け入れさせようとする動きを強めています。中国とのAI覇権争いが激化する中、こうしたシステムのセキュリティ上の利点を訴える一方、これを排除しようとする動きに警鐘を鳴らしています。 最初の動きは金曜日でした。76社の企業