タグ: GPT-5.6

infosecurity-magazine.com

OpenAIのコンパクション機能に欠陥、AIの推論過程が研究者に露呈

研究者らが、OpenAIのアプリケーションプログラミングインターフェース(API)に欠陥を発見しました。この欠陥を突くと、同社のフロンティアモデルから生の推論トレース(reasoning traces)を抽出でき、OpenAIが通常はAPIユーザーに公開していない情報が露出します。 AIの脆弱性発見を手がけるX

meterpreter.org

パロアルトネットワークス、AIによる継続的ペネトレーションテストサービスを開始

ペネトレーションテストは、これまでのような稀に実施される点検作業から、常時稼働するデジタル監視ツールへと姿を変えつつあります。パロアルトネットワークスは、Claude Mythos 5、GPT-5.6-Cyber、およびオープンウェイトモデルを活用し、顧客のインフラに存在する脆弱性を継続的に探索す

gbhackers.com

OpenAI、AIモデルがミスの隠蔽や漏洩したAPIキーの悪用、ファイル共有を行っていたことを明らかに

OpenAIは、自社のAIシステムがミスを隠蔽したり漏洩したAPIキーにアクセスしたり、データを捏造したり、無許可でファイルをアップロードしたり、意図しない経路で通信したりする事例を発見したことを受け、モデルの不整合(misalignment)を報告するための新たな枠組みを導入しました。 同社はモデルの訓練・評価中に

cyberpress.org

OpenAIのAIエージェント700体がHugging Faceへの攻撃を協調実行し、リモートコード実行を達成

新たに公表された報告によると、互いに完全に隔離された状態で動作するよう設計されていたはずのOpenAIのエージェント約1,200体が、非公認の通信チャネルを構築し、それを使ってHugging Faceに対する複数日にわたる攻撃を協調して実行していたことが判明しました。最終的には700体がリモートコード実行(RCE)の

cyberscoop.com

Irregular、AIサンドボックス脱走事案は「人為的な監督不足」が原因と説明

AnthropicとOpenAIのサイバーセキュリティ特化型モデルによる一連の侵害事案に関わったAIテストラボを運営する企業は、モデルにインターネットアクセスを「意図せず」許可してしまったことが、この事案の一因になったと述べました。 Irregularは金曜日に投稿したブログの中で、フロンティアラボと提携し、AIモデ