米国政府は、画像ベースの性的虐待を減らすためにAI業界からのコミットメントを取り付けたと発表した。
AIモデル開発者とデータ提供者の双方を対象とする「自主的コミットメント」は、同意のない親密画像および児童性的虐待コンテンツに対してテクノロジー企業が行動することを約束するものだ。
ホワイトハウスによれば、この行動規範は、業界が昨年行ったコミットメントを土台としており、「安全性、セキュリティ、信頼」を確保することでAIのリスク低減に取り組むとしている。
新たなコミットメントの下で、AI企業はAI生成画像による性的虐待の削減に向けて動く。
この取り決めにより、Adobe、Anthropic、Cohere、Common Crawl、Microsoft、OpenAIは、データセットを「責任ある形で調達」し、画像ベースの性的虐待から保護することを約束する。
各社は開発プロセスを改善し、フィードバックループを追加して、AIモデルが性的虐待画像を生成しないようにする。また、「適切な場合には」AIの学習モデルからヌード画像を削除することにも合意した。
ホワイトハウスはコミットメントの発表に際し、「画像ベースの性的虐待――成人の同意のない親密画像（NCII）と、AI生成画像を含む児童性的虐待コンテンツ（CSAM）――が急増している」と述べた。「この虐待は、個人の安全と福祉に深刻な影響を及ぼす。」
これらのコミットメントは、AI悪用画像による脅威を減らすための、テクノロジーおよびAI業界による複数の取り組みの一つだ。
安全なAIに向けたホワイトハウスの取り組みについて詳しく読む：バイデン、安全でセキュアなAIに関する大統領令を発令
これには、画像ベースの性的虐待を助長する企業への支払いを抑制するためのCash AppおよびSquareの動きや、セクストーションの検知を支援する取り組みへの参加拡大が含まれる。
Googleは、検索エンジンを含む自社プラットフォームを更新して同意のない親密画像（NCII）に対抗しており、MicrosoftはBing上のNCII対策に取り組むとともに、被害者向けリソースを案内してきた。
Meta、Snap、Githubも、AIコンテンツを含め、NCIIおよびそれらを共有できるツールに対して措置を講じている。たとえばMetaは、7月だけでセクストーション詐欺に関与していたアカウントを63,000件削除した。
また、テクノロジー企業、市民社会団体、研究者を含むワーキンググループが、「画像ベースの性的虐待の作成、拡散、収益化によって生じる被害を防止・軽減するための介入策を特定する」方法を調査する。ホワイトハウスによれば、このグループは画像ベースの虐待に対抗するための自主的原則一式を採択するという。
翻訳元: https://www.infosecurity-magazine.com/news/white-house-ai-abuse-images/
