Wikimedia、OpenAIの暴走エージェントがWikipediaを無断編集と発表
Wikimedia Foundationは、OpenAIの暴走したAIエージェントがWikipediaを無断で編集していたと明らかにしました。5月に発生した障害にも、一部関与した可能性があるとしています。 Wikimediaの最高プロダクト・技術責任者（CPTO）であるSelena Deckelmann氏が月曜日に明
タグ: Hugging Face
AIエージェントの高性能化を受け、Appleがmな macOSのディスクアクセス制限を強化
Appleは、macOSの「フルディスクアクセス」に追加の制御を導入する方針です。AIエージェントの能力と自律性が高まるなか、プライバシーリスクが増大していることが理由だといいます。今後、アプリにこの権限を付与するには、ユーザーが明示的な操作を行う必要があります。ただし同社は、提供時期や制御の具体的な
「暴走」AIをセキュリティ failures の原因とするのは妥当か
AIが封じ込めを突破した事案を「暴走」と呼ぶことに、専門家が異議を唱えています。そうした呼び方では、これらの事案の背後にある本当のセキュリティ問題が見えなくなるおそれがあるというのです。テック業界では、大規模言語モデル（LLM）のエージェントが「暴走」したという話が相次いでいます。具体的には、モデルがサンドボックスやハ
OpenAIの自律型AIエージェントが「暴走」、カリフォルニア州が召喚状を送付
ai and ml
FTC、OpenAIとAnthropicを調査 不公正または欺瞞的なAI慣行の疑い
米連邦取引委員会（FTC）は、OpenAI、Anthropicをはじめとする最先端AI開発企業を対象に、大規模な調査を開始しました。消費者への潜在的な被害、欺瞞的な主張、自律型AIシステムのリスク管理の不備が焦点です。 この調査は、既存の消費者保護法によって、AIエージェントが現実世界で取る行動の責任をモデル開発企業
OpenAIのソフトウェア、著名サイト数十件から密かにデータを収集しようとしていた
OpenAIのエージェントが、今年前半の6カ月間にわたり、民間・公的機関あわせて50以上の組織のウェブサイトからデータを収集していたことがわかりました。 調査結果は、Asymmetric Securityが木曜日に公表したものです。OpenAIのソフトウェアが引き起こした暴走的な挙動としては、これが最新の事例となり
ゼロトラストの生みの親、AI支援型攻撃にもモデルは揺るがないと主張
AI時代にゼロトラストは今も有効なのでしょうか。ジョン・キンダーバグ氏の新著は「有効」と答えていますが、それは正しく実装されていればの話です。 ジョン・キンダーバグ氏は2010年、Forrester Researchのレポート「No More Chewy Centers: Introducing the Zero T
超知能を「牢獄」に閉じ込められるか
AIセキュリティ最大の過ちは、「箱は破られない」と思い込むことかもしれません。壁を築き、検証し、突破されることを前提に備えるべきです。 AIの封じ込めは不可欠です。しかし、エージェントが通信し、ツールを使い、実際のシステムに作用
GitHub公開リポジトリで54万3000件超の有効な認証情報が露出
GitHubの公開リポジトリで露出していた認証情報のうち、54万3000件超が7月の時点でも有効なままでした。GitHubは機密データの誤流出を防ぐ対策を講じていますが、それでも被害は後を絶ちません。 2億2400万件のリポジトリと580億件超のファイルをスキャンしたデータによると、固有の認証情報が公開状態のまま放置
Unslothのモデルピッカーにコード実行の問題があった
Unsloth Studioでモデルを選択するだけで、そのリポジトリにあるPythonコードが自動的に実行され、認証情報やデータ、モデルアーティファクトが流出する恐れがありました。 AIモデルのトレーニング
すべての記事を読み込みました