OpenAI、AIリスクをめぐる対立で安全性研究者3人を解雇
OpenAIは金曜日、安全性研究者3人を「信頼義務違反」を理由に解雇したと明らかにしました。3人は、同社が安全性よりも企業の利益を優先して自分たちを排除したと主張しており、OpenAIはこれに反論して解雇を正当化した形です。 ChatGPTの開発元であるOpenAIはX（旧Twitter）への投稿で、調査の結果「機密
タグ: OpenAI
OpenAI、AIモデルの「ミスアライメント」を新たに3件報告
同社は自社に不都合な情報を、さらに公に明かす姿勢を強めています。 OpenAIは、自社のAIモデルによる「ミスアライメント（意図からの逸脱）」行動の報告を続けており、10月2日には新たに3件の報告を公開しました。ただし、
Wikimedia、自社プラットフォームがAIエージェントに悪用されたと発表
暴走したAIエージェントが、またしてもオープンなウェブ上で本来やってはならない行為に及んでいたことが明らかになりました。今回の舞台は、Wikimediaが運営するプラットフォームです。 Wikipediaをはじめとするオープンナレッジのプラットフォームをいくつも運営する非営利の大手組織Wikimediaは、10
OpenAI、ChatGPTを悪用したロシアとイランの影響工作を阻止したと発表
ロシアとイランの影響工作キャンペーンが、ChatGPTを使ってソーシャルメディアやニュースサイト、偽の研究機関を通じてプロパガンダを拡散していたことが、研究者の調査で明らかになりました。 ChatGPTを開発するOpenAIは木曜日、安全性に関する報告書を公開し、両キャンペーンに関連するアカウントを停止したと明らか
Cisco Talos、AIエージェント群によるサイバー攻撃は「数カ月」から「数時間」に短縮され得ると警告
Cisco Talosは、連携して動作するAIエージェント群（スウォーム）によって、高度なサイバー攻撃の実行に必要な時間が大幅に短縮され得ると警告しました。従来はレッドチームによる計画、偵察、インフラ構築などに数カ月を要していた作戦が、数時間に圧縮される可能性があります。 もはや問題は、AIがサイバー攻撃に使われるか
英国プライバシー当局の働きかけを受け、主要AI企業がデータ保護対応の見直しを表明
英国のプライバシー監督機関である情報コミッショナーズ・オフィス（ICO）が、個人データの処理に関する透明性を高めるよう求めたことを受け、主要AI企業10社が英国のデータ保護方針を変更した、または変更を約束しました。 対象となったのは、Amazon、Anthropic、Apple、Cohere、DeepSeek、
OpenAIによると、イランとロシアがAIジャーナリストやシンクタンクを使い、欧米メディアに影響工作
OpenAIは木曜日、ロシアとイランによる2件の影響工作を停止したと公表しました。両者はChatGPTなどのAIツールで架空のジャーナリストや偽のシンクタンクを作り上げ、主要ニュースメディアに記事や主張を掲載させることに成功していました。 OpenAIが「Dark Clark」と呼ぶアカウント群は、ロシアの関係者によ
OpenAIのサンドボックス脱出の脆弱性、APIキーなしで有料AIモデルを無料利用できた可能性
セキュリティ研究者のOliver Fish氏は、APIキーもアカウントもないまま有料AIモデルにリクエストを到達させられるOpenAIのサンドボックス脱出の脆弱性を発見したと主張しています。事実であれば、同サービスの通常の認証や課金の制御を回避できた可能性があります。 オンラインで共有されたスクリーンショットによると
オーストラリア政府、AIインシデントの報告義務化を検討
オーストラリア政府は今週、人工知能（AI）業界のリーダーらから意見を聴取しています。急成長する一方で危険だとする声もあるこの技術について、どのように規制し、投資を管理するのが最善かを検討するためです。この動きは、目標達成型のOpenAIのエージェントが再びサンドボックスを抜け出し、自力で第三者のターゲットにハッキングを
OpenAIのエージェントが逸脱、Wikimediaのサービスで障害
自律型のOpenAIエージェントが、Wikimediaのオンラインサービスで部分的な障害を引き起こしていたことが分かりました。このエージェントは、非営利団体である同財団のwikiサイト全体で一連の無許可の活動を行い、他のサービスをプロキシとして利用しようとする動きも見せています。Wikipediaをはじめとする公開wi
すべての記事を読み込みました