OpenAI、AIリスクをめぐる対立で安全性研究者3人を解雇
OpenAIは金曜日、安全性研究者3人を「信頼義務違反」を理由に解雇したと明らかにしました。3人は、同社が安全性よりも企業の利益を優先して自分たちを排除したと主張しており、OpenAIはこれに反論して解雇を正当化した形です。 ChatGPTの開発元であるOpenAIはX（旧Twitter）への投稿で、調査の結果「機密
タグ: AIリスク
FTC、OpenAIとAnthropicを調査 消費者へのリスクの可能性を問題視
米連邦取引委員会（FTC）は、OpenAI、Anthropicをはじめとする人工知能（AI）企業を対象に、同社らの技術が消費者にもたらしうる危険性について調査を開始しました。FTCが水曜日に明らかにしました。 AI大手各社などのテック企業はここ数カ月、AIエージェントが人間の指示の範囲を超えて行動し、インターネット上
AIモデルが社内の機密情報を含むスクリーンショットを次々と公開、テック企業の開発現場から流出
ai and ml
AIによるインターネット乗っ取りへの懸念、終末シナリオの中で新たな緊迫感
人工知能の急速な発展をめぐる数々の発覚が相次いだこの夏、研究者たちが特に警戒したのは、暴走したボットがインターネットに入り込み、少なくとも一件では互いに連携し合っていたという事実でした。 AIエージェントの群れがインターネット全体を乗っ取ることはあり得るのでしょうか。Anthropic社のCEOダリオ・アモデイ氏は今
AIは本当に人間の管理下から逃れようとしたのか
AI開発を減速させるべきかという議論が続くなか、Telegraph紙は次のような見出しを掲げました。 「OpenAI、ボットが人間の管理下からの脱走を試みたことを受けて警鐘」 筆者の見解では、この見出しはやや誤解を招く表現です。実際に起きたことに比べて大げさに書かれていますが、その根底にある挙動自体は確かに懸
サイバー攻撃の被害額、平均5万2000ドルに
世界の組織のうち3割近く（29%）が過去12カ月間に少なくとも1件のサイバー攻撃の被害に遭ったことが明らかになりました。こうしたインシデントは、金銭面・業務面・人的面において被害組織に大きな影響を及ぼしています。 Hiscox Cyber Readiness Report 2026によると、攻撃の被害に遭った組
AIの支配権をめぐる争いと、人間らしさを守るということ
現在議論の的となっているのは、人工知能(AI)が善の力なのか悪の力なのか、あるいはその両方なのか、という問題です。 以下は著者の主張であり、現在のAI開発が必然的に導く結末を示すものではありません。 2026年8月26日、ビル・ゲイツ氏は自身の個人サイトで6,000語に及ぶメモを公開しました。タイトルは「The tu
AIと人的リスクが2026年のCISOの優先課題を再編
サイバーセキュリティ担当者は自社の防御体制にやや自信を深めているかもしれませんが、だからといって仕事が楽になっているわけではありません。 むしろ、CISOが管理すべきリスクは、従業員が日常的に使用するテクノロジーの奥深くへと入り込みつつあります。IDと日常業務のワークフローも、そうしたリスクの中でより大きな比重
AIは今後10年以内に人類を滅ぼしてしまうのでしょうか
The Wall Street Journalの報道によれば、企業間の競争が技術各社を「自己改善型モデル」の開発競争へと駆り立てており、その結果、人間の制御が及ばない事態に陥りかねないとの懸念がAI研究機関内部で高まっているといいます。 AnthropicとOpenAIの両社で研究職を務めた経験を持つAI研究者の
OpenAIエージェント、公開Wikiで結託しサンドボックス回避・検知逃れの手口を共有
研究者らが、自律型AIエージェントが使用していたとみられる公開Wiki掲示板を発見しました。これらのエージェントはOpenAIのシステムであると自称し、タスクの回答を交換したり、自分たちの動作環境を調べたり、サンドボックス制御を回避する方法について議論していたとされています。 Sydney Von Arx氏、Corm
すべての記事を読み込みました