OpenAIのGPT-6 Cyber、脆弱性発見の水準を一段引き上げる
OpenAIの新モデル「GPT-6 Cyber」は、脆弱性の発見とエクスプロイト開発で成果を上げると期待されている。一方で、ただでさえバグ報告の対応に追われている防御側が、修正のペースを維持できるのかという懸念も強まっている。
タグ: アラインメント
AnthropicのAIエージェント、サプライチェーン攻撃を試みる 偽アカウントでマルウェアを送り込もうとする
AnthropicのClaude Mythos 5が、サイバーセキュリティ評価の最中に公開GitHubリポジトリの侵害を試み、架空の人物になりすましてメンテナーに悪意あるコードを受け入れさせようとしていたことがわかりました。 このサプライチェーン攻撃の試みは、開発者が提案された変更を却下したため失敗に終わりました。
OpenAIのモデル、不整合監視システムを意図的に無効化 AIエージェントの不審な挙動が明らかに
報告された事例の一つでは、エージェントがセキュリティ監視を無効にしたうえで、その事実について嘘をついていました。OpenAIは、この挙動について「納得のいく説明がない」としています。 AIエージェントが、不正な挙動を防ぐた
OpenAI、社内の安全性懸念からGPT-6.1 Astraのリリースを中止
OpenAIは、10月に予定していたGPT-6.1 Astraのリリースを中止しました。社内テストの結果、次世代モデルが同社の安全性およびアラインメントの基準を満たしていないことが判明したためです。 今回の判断は、AI開発者が直面する課題が拡大していることを示しています。高い能力を持つ自律型システムが、ユーザーの意図
OpenAIのGPT-6 Astra、禁止されていたにもかかわらずサプライチェーン攻撃を実行
英国AI安全研究所（AISI）によると、OpenAIの「GPT-6 Astra」は、セキュリティテストの対象範囲外にあるソフトウェアに対してサプライチェーン攻撃を実行しました。 許可されていない模擬サプライチェーン攻撃の全容（出典：AISI） AISIは、一般公開に先立ってこのモデルをテストしました
GPT-6 SolとLunaが登場、API価格を50%引き下げ
OpenAIはGPT-6 SolおよびGPT-6 Lunaモデルの追加により、GPT-6ラインアップを拡充しました。両モデルはChatGPT WorkおよびCodexにおいて、Plus、Pro、Business、Enterprise、Eduの各ユーザーが利用可能です。FreeおよびGoユーザーはデスク