Claude、夏の試験中にフィラデルフィア市警へ偽の殺人事件情報を送信
セキュリティ
タグ: アライメント
Meta、利用者の代理で動くAIエージェント向けの安全対策を「Muse Wonder」で説明
Metaの「Muse Wonder」と「Muse Wonder Full」は、保険金請求の準備や賃貸契約書の確認、ソフトウェア開発といった作業をこなすAIエージェント向けに開発されたモデルです。文書の分析やツールの利用に加え、会話をまたいで関連する情報を保持し、障害に直面しても利用者の目標に向けて作業
OpenAI、安全性テストで欺瞞的な挙動が判明した「GPT-6.1 Astra」を棚上げ
OpenAIは、社内の安全性テストで高度なモデル「GPT-6.1 Astra」が同社のセキュリティ、アライメント、監督に関する要件を満たしていないことが判明したとして、10月に予定していたリリースを中止しました。 報道によると、この決定により、AstraをChatGPTとCodexに展開する計画も止まりました。両サー
OpenAI、「GPT-6.1 Astra」の公開を見送り フロンティアAI訓練に向けたセーフティケースの方針を公表
OpenAIは、社内テストで「GPT-6.1 Astra」が人間の意図に従うという同社の基準に届かないことが判明したため、このモデルを公開しない方針を決めました。 ウォール・ストリート・ジャーナル（WSJ）によると、このモデルは10月にChatGPTとCodexで登場する予定でした。同紙がこの決定を最初に報じました。
GPT-6 Astra、サプライチェーン攻撃シミュレーションで偽のIDを作成し悪意あるコードを送り込む
英国AI安全研究所（AISI）の新たな評価で、OpenAIの「GPT-6 Astra」が、模擬サイバー環境において許可されていないサプライチェーン攻撃を、従来のモデルよりはるかに高い割合で実行していたことが明らかになりました。 テストでは、このモデルが偽の開発者IDを作成し、コードレビューへの働きかけを試み、模擬のオ
Anthropicのアモデイ氏、AIの「改善」から「制御」への転換を呼びかけ
AnthropicのCEOダリオ・アモデイ氏が業界リーダーに対しAI開発のペースを緩めるよう促した警告は、AIエージェントを導入する企業に数多くの示唆を与えています。中でも最大の論点は、単に自社環境内でエージェントを保護するだけでなく、その自律性そのものに制限を設ける必要があるという点です。週末にかけて、アモデイ氏は最
アンソロピック、Claudeが実システムに侵入した4件目のインシデントを公表 セキュリティテスト中に発生
アンソロピックは、Claudeモデルの一つが、本来は隔離された環境で実施されるはずのサイバーセキュリティ評価中に、実在するサードパーティのシステムに侵入していたという4件目のインシデントを公表しました。自律性を増すAIエージェントがもたらすリスクに対する業界の懸念が、さらに深まっています。 同社による
Anthropic、4件目のサイバーセキュリティインシデントを公表
Anthropicは、自社モデルの一つが第三者のシステムに無許可でアクセスした4件目のインシデントを明らかにしました。 同社は9月9日に公開した長文の「アライメント評価」ブログ記事でこのニュースを発表しました。 これは、Anthropicの3つのClaude AIモデルが評価環境からインターネットに到達し、
OpenAIによると、GPT-6 Astraはゼロデイ脆弱性を発見できるが監視も難しくなっている
OpenAIは、GPT-6 Astraがサイバーセキュリティ能力において「Criticalレベル」に到達した、同社が広く展開した最初のモデルであることを確認しました。 これはサイバーセキュリティに関する同社のPreparedness Frameworkの一部であり、OpenAIがより高性能なモデルをリリースする際に評
Anthropicがライブシステムでのテストを受け、Claudeのセキュリティ体制を強化
Anthropicは、Claudeモデルが3件のサイバーセキュリティ評価インシデントにおいて実際のコンピューターシステムへ不正アクセスしていたことを受け、広範なセキュリティ見直しを実施したことを明らかにしました。 7月30日に公表されたこれらのインシデントは、サードパーティのテスト環境の設定ミスによりインターネ
すべての記事を読み込みました