AIエージェントが研究所自身のコードを書くとき、監視はどうなるか
フロンティアAIを開発する研究所では、コーディング作業の多くをAI自身が担うようになっています。こうしたエージェントは、各ステップ間で人間の監視をほとんど受けずにソフトウェアを作成・編集・実行し、本番インフラや研究パイプライン、さらには将来のモデルを訓練・評価するシステムにまでアクセスすることがありま
タグ: コーディングエージェント
プロンプトインジェクション、本番環境におけるエージェントAIセキュリティ障害の主因であり続ける
2026年3月、バックドアが3時間にわたってPyPIに潜伏していました。その間に約47,000件のダウンロードが発生しました。被害を受けたパッケージはLiteLLMで、CrewAI、DSPy、Microsoft GraphRAGをはじめ、数十のAIエージェントフレームワークの言語モデルゲートウェイとし
攻撃者はすでに開発者マシン上の秘密情報を知っている——あなたは把握していますか？
GitGuardianが最近行った分析では、開発者エンドポイントのサンプルから平均150件の秘密情報が検出されました。そのうちプライベートキーが固有シークレットの38%を占め、クラウド、IDプロバイダー、シークレット管理ツール（AWS IAM、HashiCorp Vault）の認証情報がさらに22%を
100のAIエージェントのセキュリティをテスト・ランク付け——知っておくべきこと
AIは私たちの新たなリーダーです。私たちはAIの指示をそのまま受け入れ、従っています。もう少し慎重になるべきかもしれません。 AIエージェントの動作に対する懸念は絶えません。情報漏洩のリスクから、単純に誤った意思決定まで、問題は多岐にわたります。AI支援による攻撃の高度化を受け、より多くのエージェントをより自律的に活
本番環境のAIエージェント、セキュリティ基準を満たすのはわずか11%
エンタープライズチームは、コードの記述、ブラウザの操作、顧客対応の電話応答、クラウドインフラの管理、さらには常設認証情報を使ったデータウェアハウスへのクエリ実行まで行うAIエージェントを本番環境で稼働させています。100件の本番エージェントを対象とした新たな独立調査では、そのほぼすべてに、悪意ある単一
セキュリティ研究者、Pwn2Own Berlinで47個のゼロデイ脆弱性を発見
Pwn2Own Berlinで47個のゼロデイ脆弱性を発見したセキュリティ研究者は、約130万ドルの報奨金を受け取りました。 5月14日から5月16日にかけて開催され、TrendAIのZero Day Initiative (ZDI)が後援した3日間のイベントは、Devcoreチームが優勝し、50万5,000ドルの莫大
大規模言語モデルが生成したパスワードは予測可能で反復的であることが判明
大規模言語モデルが生成したパスワードは予測可能で反復的であることが判明。AI企業...