Hugging Face攻撃の数日前、OpenAIエージェント群が別のWikiサイトを乗っ取っていた
悪名高いHugging Face攻撃が起こる数日前、OpenAIのエージェント群はまったく別のWebサイトに侵入し、内容を改ざんしていました。OpenAIはこの件をしばらく前から把握していたとみられますが、同社は意図的に隠蔽したことを否定しています。7月16日、Hugging Faceはこの夏最大、いや年間、いや過去1
タグ: フロンティアAI
OpenAI、重要インフラの防御担当者を支援するフロンティアAIに10億ドルを拠出
Daybreakは、OpenAIが継続的に運用しているエージェント型のループであり、フロンティアAIの力を活用して複雑なセキュリティ調査、検証、修復、報告作業を簡素化します。先行してリリースされたDaybreak Blueは、OpenAIの主力モデルを用いた一般的な防御業務を支援するもので、Daybreak Redは
OpenAI、最前線のサイバー防御担当者向けにリソースとトレーニングを提供へ10億ドルを拠出
厳しい監視の目が向けられる中、同社はフロンティアAIを活用し、水道、電力、地方自治体のサービス提供者が悪意ある攻撃者と戦うのを支援する方針です。 OpenAIは木曜日、補助金付きアクセスを10億ドル分提供すると発表しました。これにより、電力、水道、地方自治体サービスなどの重要インフラを守る小規模なI
AIモデル評価団体METR、認証情報窃取と探索行為の標的に
フロンティアAIモデルのリスク評価を手掛けるセキュリティ非営利団体が今週、2件のサイバーセキュリティインシデントを公表しました。APIキーが漏洩した侵害と、非公開の評価データが露出しかねなかった別の脆弱性が含まれています。METR(Model Evaluation and Threat Research)は8月31日、
フロンティアAIによるサイバーリスク、世界の金融システムに「最も差し迫った懸念」と監視当局が警告
フロンティアAIがもたらすサイバーリスクは、世界の金融システムが直面する「最も差し迫った懸念」であるとして、月曜日に公表された書簡の中で、世界の主要経済国の財務相・中央銀行総裁らに警告が発せられました。 金融安定理事会(FSB)の議長を務めるアンドリュー・ベイリー氏は、金融機関とテクノロジー企業に対し、「複数の企業
金融安定理事会、フロンティアAIのリスクに警鐘
フロンティアAIモデルがサイバー脅威の環境を一変させつつある中、世界の金融システムがリスクにさらされていると金融安定理事会(FSB)が警告しました。 FSBはイングランド銀行のアンドリュー・ベイリー総裁が議長を務める諮問機関で、世界市場に対する潜在的リスクを監視しています。 8月28日付でG20財務相・中央
「AIキルスイッチ法案」はクリッパーチップの過ちを繰り返している
「うまくいかなくなる可能性のあるものは、いずれうまくいかなくなる」 自律型AIエージェントがガードレールを突破し他社をハッキングする最近の事例に、政策担当者たちは危機感を募らせているようです。マーフィーの法則を意識せざるを得ないのも無理はありません。エージェントの挙動が予測不能になれば、暴走するシナリオはいくらでも思
AI時代を見据えたアプリケーションセキュリティの再考
前回のコラムでは、フロンティアAIというテーマを取り上げ、ベンダーが謳う本物のAI機能とマーケティング上の誇大表現を、企業がどう見分ければよいかについて論じました。その記事では、企業が自社アプリケーションに関して、脆弱性の特定・緩和・パッチ適用のペースがますます加速する中で、それに追いつけなくなるのではないかという懸
OpenAIのAstra AIモデル、重大なサイバー能力の閾値に到達する可能性
OpenAIは、社内テストにおいて次期モデル「Astra」がサイバーセキュリティ分野で重大な能力の閾値に近づく可能性があることが示されたとして、フロンティアAIのトレーニングを一時的に減速させました。 今回の決定は、能力を増し続けるAIシステムが、人間による限られた指示のもとでソフトウェアの脆弱性を自律的に特定・分析
OpenAIが「アストラ」の危機的脅威水準到達を前に、フロンティアAIの学習を減速
OpenAIは、「アストラ」がサイバー分野における重大な閾値に近づいていることを受け、フロンティアAIの学習を減速させています。この動きは、AIのセキュリティ、自律性、防御をめぐる新たな課題を浮き彫りにしています。 eSecurity Planet の記事および製品に関する推奨事項は、編集上の独立性を保っ
すべての記事を読み込みました