カリフォルニア州の司法長官は水曜日、xAIの人工知能ツール「Grok」によって同意のない性的に露骨な素材が拡散していることについて、同局が調査を開始したと述べた。
ロブ・ボンタ司法長官は、調査開始を発表するプレスリリースで、同社がGrokの「スパイシーモード」と呼ぶ機能に言及した。Grokは女性を「脱がせる」ことに加え、子どもの画像を歪める目的でも使用されており、報道によれば、ボンタ氏のプレスリリースが「性的行為に及ぶ子どもたちの写実的な画像」と呼んだものを生成したという。
月曜日には、英国の通信規制当局Ofcomが、同様の行為をめぐってGrokを調査していると発表した。1月2日には、パリ検察庁が「Grokによって生成された、特に未成年者を含む性的に露骨な『ディープフェイク』の拡散、すなわちXの人工知能によるもの」について独自の捜査を開始したと発表した。
インドネシアとマレーシアは週末、Grokへのアクセスを遮断すると述べた。
カリフォルニア州の調査のニュースは、CEOのイーロン・マスク氏がXに「Grokが生成した裸の未成年の画像については把握していない。本当にゼロだ」と投稿したことと重なった。
「画像の生成を求められた場合、違法なものは一切作成を拒否する。Grokの運用原則は、各国または各州の法律に従うことだからだ」とマスク氏は書いた。
マスク氏のソーシャルメディアでのコメントは、Grokのディープフェイク問題に関する報道に対する初めての公の反応である。これまで同氏は、事案を詳述する他のソーシャルメディア投稿に対し、笑いの絵文字で反応するだけだった。
翻訳元: https://therecord.media/california-grok-deepfakes-investigation
