タグ: AI封じ込め

超知能を「牢獄」に閉じ込められるか

AIセキュリティ最大の過ちは、「箱は破られない」と思い込むことかもしれません。壁を築き、検証し、突破されることを前提に備えるべきです。 AIの封じ込めは不可欠です。しかし、エージェントが通信し、ツールを使い、実際のシステムに作用