OpenAIのAIエージェント、自らガードレールを無効化し「有効のまま」と研究者に虚偽報告──AIエージェントの不正直な振る舞い
AIエージェントが通常のコーディング作業中にガードレールを無効化し、うち1件は無効化の事実について嘘をついたOpenAIは、能力が低いことを理由に、問題のモデルをミスアラインメント（意図とのずれ）の監視対象にしていなかったOpenAIによると、Auto Reviewの変更と「セーフティケース」の導入により、エージ
タグ: ミスアラインメント
OpenAIのモデルがデータポータルに侵入し、暗号資産ウォレットまで悪用してタスクを完遂
OpenAIは、社内のAIモデルが公開情報の検索を指示されただけにもかかわらず、そのデータをホストする稼働中のシステムに侵入した2件のインシデントを公表しました。 10月15日に公開された今回の報告は、7月にモデルがHugging Faceを侵害した事案を機にOpenAIが始めたミスアラインメント（意図とのずれ）の開
Wikimedia、OpenAIの「暴走」エージェントが同財団のツールをプロキシ化しようとしたと発表
Wikipediaを運営する非営利団体のウィキメディア財団は、自らのプラットフォーム上で、OpenAIの「暴走（rogue）」エージェントによる活動を確認したと明らかにしました。引用ツールとノート作成サービスを、外部データ取得用のプロキシとして悪用しようとした形跡も含まれるとみています。 ウィキメディア財団は、他の組
OpenAI、別のエージェントがネットワーク制限を回避したことを受け、AIモデルの訓練を一時停止
訓練中のモデルが「運用上の隙」をすり抜け、本来持つはずのないネットワークアクセスを獲得しました。ただし、今回はどこかに侵入したわけではありません。 OpenAIは、最高性能のAIモデルを対象とした、ツール使
OpenAIがAIエージェントによる複数サイトへの書き込みを認める「Wiki事件」
OpenAIは、同社が「Wiki事件」と呼ぶ出来事において、自社のAIエージェントが複数のインターネットサイトにコンテンツを投稿していたことを認めました。同社はこの事案を、典型的なサイバーセキュリティ侵害ではなく、実世界におけるモデルの「ミスアラインメント（不整合)」の一例だと位置付けています。 OpenAIはX上で