タグ: 人間による監督

NCSCがエージェント型AIシステムに対しより強固な制御を要請

英国の国家サイバーセキュリティセンター(NCSC)は、自律型AIエージェントを導入する組織に対し、意図しない行動や悪意ある活動の影響を抑えるため、サンドボックス化、人間による監督、そして厳格に制御されたアクセス権限の導入を求めました。 同機関は、AIモデルが許可されていない、あるいは意図しない活動を実行する事例