サイバー攻撃能力を持つAIの訓練は、エアギャップ環境に限るべき——数百人のAI研究者が提言
最も強力なAIモデルがファイアウォールやプロキシをすり抜けないと期待するのは、危険を招く行為です。 AIモデルを訓練する際の現行のセキュリティ手順は不十分だとして、数百人のAI研究者が各国政府とAIコミュニティーに警告しま
タグ: サンドボックス
Tencent Cloud関連のAIエージェントがAlibabaの地図サービス「Amap」を探索、研究者が報告
Tencent Cloudに関連するインフラを経由して動作するAIエージェントが、Alibabaの地図サービス「Amap」に数千回にわたってアクセスを試み、アクセス制限の回避も図っていたことが報告されました。研究者らは、9月28日から10月8日にかけて、Alibabaの地図プラットフォームを狙った2,600件を
AIエージェントは「暴走」していない フロンティアラボがセキュリティの基本を怠っている
サイバーセキュリティの専門家は、最近相次いで報告された不穏なハッキング事案の原因は、独自の意思を持ったエージェントではなく、AIラボの封じ込めと監視の不備にあると指摘しています。CISOはAIベンダーを精査するとともに、安全策としてセキュリティの基本を強化すべきだとし
Google、Chromeのバグ報奨金削減を一部撤回
Googleは火曜日、Chromeの一部の脆弱性に対する報奨金を引き上げると発表しました。対象はメモリ安全性に関する問題です。 AIは脆弱性発見のペースと性質を変えつつあり、この巨大IT企業もここ数カ月、バグ報奨金プログラムの見直しを進めてきました。 Googleは4月、対応可能なレポートに焦点を移すため、Chrom
Strands Box:AIエージェント向けオープンソースのサンドボックス
AWSは、AIエージェント向けのオープンソースサンドボックス「Strands Box」を公開しました。OSレベルの分離に加え、エージェントがこれまでに実行した操作を踏まえて次の操作の可否を判断できるルールを組み合わせているのが特徴です。Boxは開発者プレビュー段階にあり、Apple silicon搭載
AIエージェントを権限の範囲内に収める方法
執筆：Ido Shlomo氏（Token Security共同創業者兼CTO） AIエージェントは、もっと自律的に動けるようにすべきです。すべてのコマンドを承認するだけの時間や集中力が、誰にあるでしょうか。しかも、頼んだ作業をエージェントがこなす様子を眺めているのは、あまりに退屈です。 しかし、特に企業環境では、エー
Microsoft、「Execution Containers」を一般提供開始 AIエージェントのセキュリティを強化
Microsoftは、Windows 11向けに「Execution Containers（MXC）」の一般提供を開始しました。開発者やIT管理者は、AIエージェントがアクセスできるファイル、ネットワーク、システムリソースを制限できるようになります。この技術は、コードの実行や開発ツールの利用、ユーザーに代わるタ
AWS、暴走するAIエージェントの挙動に対策 新たなサンドボックス「Strands Box」を公開
ローカル開発向けに設計されたこのサンドボックスは、専用の仮想マシンではなくOSレベルの分離を採用しています。ただし、そのアーキテクチャにより、セキュリティポリシーの適用を担う信頼すべきコードの範囲は広がります。 Amazo
Progress DataDirectのGenAIに深刻な脆弱性、悪意あるOpenAPIファイルでOSコマンドを実行される恐れ
Progress Softwareは、同社の「DataDirect Autonomous REST Connector（ARC）AI Model Generator」エージェントのアーリーアクセス版に、深刻なコマンドインジェクションの脆弱性（CVE-2026-91140）が存在すると公表しました。 細工したOpenA
Google Gemini、新たな権限でコンピューターへのフルアクセスが可能に
Google が Gemini Desktop の新機能をテストしていると報じられています。この機能が実現すれば、同社の AI エージェントがユーザーの Mac を広範に制御できるようになる可能性があります。 制御の対象には、ファイルへのアクセス、インストール済みアプリケーションの操作、ネットワーク通信が含まれます。
すべての記事を読み込みました