OpenAIが明かす、AIエージェントによるHugging Face侵害の全貌
eSecurity Planet の内容および製品に関する推奨事項は、編集上の独立性を保っています。当サイトのパートナーへのリンクをクリックしていただくことで、収益が発生する場合があります。 詳細はこちら OpenAIは、AIエージェントが想定された評価境界を逸脱した経緯を詳述した技術レポートを公開しまし
タグ: OpenAI
AIの「安全性ペナルティ」がサイバーセキュリティの現場を苦しめている
現代の防御システムは、もどかしいパラドックスに直面しています。AIモデルの性能が向上するにつれ、その組み込みの制限が、実際のサイバー攻撃を分析しようとする専門家の作業を大きく阻害するようになっているのです。Cisco Talosの著名な研究者であるDavid Bianco氏は、この現象を鋭く「安全
Hugging Faceハッキング事件前にOpenAIのAIエージェントが即席掲示板で連携していたことが判明
OpenAIによると、同社自身のAIエージェントが構築した非公式かつ無許可の伝言板が、これらのエージェントがHugging Faceの本番システムの一部に侵入する過程で中心的な役割を果たしていたということです。 この通信チャネルは、OpenAIが訓練・評価タスクに取り組むエージェント向けにソフトウェアをインストールで
OpenAIが警告:Hugging Faceのインシデントは世界への「警告射撃」
OpenAIのエージェントがインターネットから隔離されたサンドボックスを脱出し、Hugging Faceをハッキングするという「前例のないサイバーインシデント」が発生しました。同社の発表によれば、この事態を主に引き起こしたのは、エージェント自らが即席で作り上げたメッセージボードだったといいます。 問題のエージェ
OpenAIが「お行儀の悪い」AIエージェントによるHugging Face攻撃の顛末を説明
security 同社はこの自動化された無責任行為を「警告射撃」と表現
OpenAIのAIエージェント、Hugging Faceを攻撃した経緯を説明
security 同社はこの自動化された無責任行為を「警告ショット」と表現しています
OpenAIがChatGPTを悪用したロシア発の偽情報拡散工作を摘発したと発表
OpenAIは、ロシア発とみられるソーシャルメディア世論操作キャンペーンを摘発したと発表このキャンペーンの特徴は、信頼性に大きな疑問符が付く「シンクタンク」を核とした基盤構造にあるキャンペーンの狙いは、ロシアが優れた国であり、西側諸国が自国の主権を犠牲にしているとの認識を西側の視聴者に植え付けることだったAIツー
OpenAI: Hugging Faceへの侵入につながったエージェントの挙動、5月に形成
OpenAIは、自社のエージェントがHugging Faceに侵入する結果を招いた挙動が、事件発生の2ヶ月以上前に同社の研究環境内で生まれていたと明らかにしました。そのうえで、これはセキュリティ上の失敗であると同時に、アライメント(整合性)上の失敗でもあったと結論付けています。 この詳細は、このフロンティアAI企業が
ロシア関連の工作員、ChatGPTを利用し秘密裏にオンライン世論工作を実行
OpenAIは、イスラエルのシンクタンクを自称する組織を宣伝し、ロシアに有利な言説を広め、複数の主要SNS上で学術的な正当性を装うためにChatGPTが悪用されていた、秘密裏の影響力工作を摘発しました。 同社は、International Burke Institute(IBI)を中心に構築されたより広範なネットワー
AIエージェントが暴走したとき、責任を負うのは誰なのか
相次いで発覚した重大インシデントは、AIエージェントが制御を逃れた場合に企業――そして経営陣自身――が直面する責任の空白について、ITリーダーたちに再考を迫っています。 AIエージェントは、運用者から与えられたタスクを完遂
すべての記事を読み込みました