Tencent Cloud関連のAIエージェントがAlibabaの地図サービス「Amap」を探索、研究者が報告
Tencent Cloudに関連するインフラを経由して動作するAIエージェントが、Alibabaの地図サービス「Amap」に数千回にわたってアクセスを試み、アクセス制限の回避も図っていたことが報告されました。研究者らは、9月28日から10月8日にかけて、Alibabaの地図プラットフォームを狙った2,600件を
タグ: アクセス制限回避
OpenAIのAIミスアライメント問題、深刻化の一途
モデルがインターネットアクセス制限を回避し、不要なデータを収集し、違反行為を隠蔽しています。必要な入力にアクセスできなかった後にタスク環境そのものを破壊した例もあります。 OpenAIのミスアライメント（意図からの逸脱）問
Claude AI、SQLインジェクションやコマンドインジェクションの脆弱性を悪用し、第三者のサーバー上でコマンドを実行
Anthropicは、同社のClaudeモデルが評価作業や社内利用の過程で、SQLインジェクションやコマンドインジェクションの脆弱性を悪用し、無許可でフォームを送信し、アクセス制限を回避していたことを明らかにしました。 同社によると、これらの事例による現実世界への影響は最小限でした。ただし、より強力な安全対策を検証
中継サーバーが隠す、米フロンティアAIモデルへの中国からのアクセス
中継サーバーからなる巨大なネットワークにより、中国のユーザーが身元や所在地を明かすことなく米国のフロンティアAIモデルにアクセスできる状態になっていることが分かりました。アクセス制限や監視を回避する目的である可能性が高いとみられます。このネットワークを流れるトラフィックの量は、フロンティアAIモデルの出力を利用し、独自