タグ: AIガバナンス

helpnetsecurity.com

CISAのロギング指針、政府機関の枠を超えて活用できる内容に

米サイバーセキュリティ・インフラセキュリティ庁(CISA)は、連邦政府機関に対し、ロギング戦略をある一つの問いを軸に(再)構築するよう求めています。それは「攻撃を受けた際、収集したログを実際に活用して検知し、事後に何が起きたかを再構築できるか」という問いです。 2026年8月に公開された「Loggin

darkreading.com

OWASPが新セキュリティ指針でAIスキルの主要リスクを指摘

7月上旬、攻撃者は人気のエージェント型AI作業プラットフォーム「Paperclip」になりすました類似ドメインを取得し、トロイの木馬化したPythonパッケージと武器化されたAIスキルの両方を作成して、ユーザーのマシンを侵害し、さまざまな認証情報や機密情報を窃取しました。この事件は、Open Worldwide App

darkreading.com

OpenAIが導入した制御機能、本来もっと早く実装されているべきだった

OpenAIは、サイバー能力ベンチマーク演習中に最先端モデルがAIアプリケーションストアのHugging Faceに意図せず侵入した先月の事件を受け、セキュリティおよびガードレールの改善策を多数打ち出すことを表明しました。しかし、今回発表された新たな制御策の多くは、画期的な安全対策というよりも、高度なサイバー能力を持つ

infosecurity-magazine.com

NCSCがエージェント型AIシステムに対しより強固な制御を要請

英国の国家サイバーセキュリティセンター(NCSC)は、自律型AIエージェントを導入する組織に対し、意図しない行動や悪意ある活動の影響を抑えるため、サンドボックス化、人間による監督、そして厳格に制御されたアクセス権限の導入を求めました。 同機関は、AIモデルが許可されていない、あるいは意図しない活動を実行する事例

securityweek.com

OpenAIがモデルのセキュリティ体制を刷新、サンドボックス化・30分ルールの警告対応・トレーニング一時停止を導入

OpenAIは、高度なサイバーセキュリティ能力を持つモデルを管理するため、より厳格な隔離とトークン検査システムを導入し、AI研究における新たな封じ込め・継続的監視プロトコルの詳細を明らかにしました。 これらのセキュリティ対策は、次期モデルであるAstraが、同社のPreparedness Framework(準備態勢

esecurityplanet.com

OpenAIが「アストラ」の危機的脅威水準到達を前に、フロンティアAIの学習を減速

OpenAIは、「アストラ」がサイバー分野における重大な閾値に近づいていることを受け、フロンティアAIの学習を減速させています。この動きは、AIのセキュリティ、自律性、防御をめぐる新たな課題を浮き彫りにしています。 eSecurity Planet の記事および製品に関する推奨事項は、編集上の独立性を保っ