自己複製型プロンプトインジェクション「ワーム」の出現
プロンプトインジェクションが、コンピューターワームのような悪質な特性を獲得しました。OpenAIは最近、AIエージェントを乗っ取るだけにとどまらない悪意ある命令の実証結果を公表しました。この高度な命令は、乗っ取られたAIに対し、メールやファイルシステム、ソースコードのコメントを通じて攻撃を自ら拡散
タグ: GPT-Red
悪夢のシナリオにAIの懸念をもう一つ追加、自己複製するプロンプトインジェクション
security
OpenAI、プロンプトインジェクション脆弱性を自動検出するAIモデル「GPT-Red」を発表
OpenAIは、AIエージェントにおけるプロンプトインジェクションの弱点を特定・悪用するよう訓練された自動安全性レッドチーミングモデル「GPT-Red」を発表しました。Hacking& Cracking プロンプトインジェクションとは、Webページ、メール、ローカルファイル、コードリポジトリ、ツールの出力など
OpenAI、自動攻撃でプロンプトインジェクションに強いGPT-5.6を実現する「GPT-Red」を発表
OpenAIは、プロンプトインジェクションの脆弱性を大規模に発見・悪用するために構築された社内向けの自動レッドチーミングモデル「GPT-Red」を発表しました。得られた知見は、そのまま本番モデルの堅牢化に活用されます。 同社は、GPT-RedをGPT-5.6のトレーニングパイプラインに直接組み込んだことを明らかにして
GPT-Redがプロンプトインジェクションのテストで人間のレッドチームを上回る成果
GPT-Redは、OpenAIがプロンプトインジェクションの脆弱性を発見するために訓練している自動レッドチーミングモデルです。人間のレッドチーマーと同じように動作し、プロンプトを送信してGPTモデルの応答を観察し、データ流出の成功といった目標に向けて試行を繰り返します。 トレーニングは自己対戦型の強