AI エージェントのガバナンス欠如が大規模化した際に何が起きるか
Help Net Securityによる今回のインタビューでは、meshIQのGlobal Head of Engineeringを務めるGourab Basu氏が、AIエージェントシステムにおけるガバナンスについて語ります。同氏は、プロンプトに書き込まれた指示だけではエージェントの挙動を制御するには
タグ: 自律システム
Edge Case、自律システム全体のリスクを追跡するAIプラットフォーム「Guardian」を発表
Edge Caseは、安全性分析、エンジニアリングデータ、運用シグナルを結び付け、システムリスクの変化をチームが継続的に把握できるようにするAI駆動プラットフォーム「Guardian」を発表しました。 ローンチ時点でGuardianは世界最先端の自律プラットフォームの一部に対応しており、商用・防衛の両
Google DeepMindが新たな脅威を警告—悪質なウェブコンテンツがAIエージェントを危険にさらす
人工知能が単純なチャットボットから積極的にウェブを閲覧する自律型エージェントへと進化する中、新しいサイバーセキュリティの脅威が出現しました。 Google DeepMindの研究者たちは、「AIエージェントトラップ」と呼ぶ重大な脆弱性を特定しました。 これらは、訪問するAIエージェントを操作、欺瞞、または悪用するた
業界は人間のためではなく、機械のためにAIを設計している。これは誤りではない。
AI業界はしばしば批判されています。なぜなら、システムはますます不透明になり、自律的になり、人間が質問しにくくなっているからです。この批判は通常、何か問題が起きてしまった、人間中心設計の視点を失った、解決策はAIを説明可能性、透明性、またはより直感的なインターフェースの方向に引き戻すことだという前提で行われます。し
ドローン群の襲撃が到来し、NATO防空システムは対応するには高すぎる
NATOは低コストの量産型ドローン攻撃に対処する準備ができておらず、過去4年間の...