タグ: 感情的安全性

迎合的なチャットボットと、長期利用で蓄積するリスク

人々はAIチャットボットを話し相手や助言、心理的サポートとして活用しており、システム側はユーザーの関心を引き続けるかたちで応答するよう設計されています。研究者たちはこれに伴うリスクを感情的安全性（affective safety）と呼んでいます。これは人間が感情を持つ存在であり、AIシステムがその感情