執筆者
Metaは、2024年の米大統領選挙に先立ち、同社のFacebookおよびInstagramプラットフォームに投稿されたAI生成画像にラベル表示を開始する。
ソーシャルメディア大手のグローバルアフェアーズ担当社長であるニック・クレッグ氏は、2月6日のブログ投稿で、AIツールで生成されFacebook、Instagram、Threadsに公開された画像について、可能な限りAIラベルを表示し、これらのプラットフォームが対応するすべての言語で適用すると発表した。
この新しいラベルは「今後数か月以内」に適用されると、元英国副首相でもある同氏は述べた。
「人々が目にしている写実的なコンテンツがAIを用いて作成されたものかどうかを知る手助けをすることが重要です」とクレッグ氏は書いた。
「私たちは来年にかけてこのアプローチを取ります。この期間には世界各地で重要な選挙がいくつも行われます。その間に、人々がどのようにAIコンテンツを作成し共有しているのか、どのような透明性が最も価値があると感じられているのか、そしてこれらの技術がどのように進化していくのかについて、さらに多くを学べると期待しています。」
不可視ウォーターマークとAI画像生成
Metaは、簡単なテキストプロンプトで画像を作成できる独自のAI画像生成機能「Meta AI」を提供している。
Meta AIで作成された画像には、「AIで想像（Imagined with AI）」というラベルが付与される。
「当社のMeta AI機能を使って写実的な画像が作成される場合、AIが関与していることを人々に確実に伝えるために、画像上に見える目印を付けることに加え、画像ファイル内に埋め込まれた不可視ウォーターマークとメタデータの両方を用いるなど、いくつかの対応を行っています」とクレッグ氏は書いた。
不可視ウォーターマーキングとメタデータの両方を使用することで、他のプラットフォームがそれらを識別しやすくなる。
2月6日の更新により、AI生成画像のラベル表示は、競合サービスで作成されたものにも拡大される。
クレッグ氏が言及したのは画像のみだったが、Metaは「動画や音声を含むAIコンテンツを識別するための共通の技術標準について、業界パートナーと協力している」と付け加えた。
他サービスで生成されたAI画像をMetaが検出する方法
Metaは、画像がAI生成であることを示す「標準的な指標」を検出するツールを開発すると述べた。しかし、現時点でそのような標準は広く一般化されていない。
つまり、Metaは独自の標準を開発するか、既存の標準を採用するかを選ばなければならない。
既存の標準には、コンテンツ真正性イニシアチブ（CAI）を通じて開発されたAI生成画像向けの暗号学的クレデンシャルがある。CAIは、コンテンツの来歴と真正性のための連合（C2PA）が主導するAIウォーターマーキング・プロジェクトである。
C2PAは、ワシントンに拠点を置く非営利団体であるJoint Development Foundationのプロジェクトで、暗号学的なコンテンツ来歴標準を実装することで、デジタル時代の誤情報や操作に対処することを目的としている。
まだ黎明期ではあるものの、C2PAにはAdobe、X（Twitter）、The New York Timesなどがメンバーとして名を連ねている。同団体のContent Authenticity Initiativeは最近、OpenAIから支持を得た。
ユーザーはAI生成コンテンツにラベル表示が必須、違反にはペナルティ
ブログでクレッグ氏は、Metaがユーザーに対し「AI生成の動画や音声を共有する際にそれを開示できる」機能を提供すると述べ、そうすることを義務化する可能性が高いとした。
「写実的な動画や、現実のように聞こえる音声を含むオーガニックコンテンツを投稿する際、それがデジタルで作成または改変されたものである場合には、この開示およびラベル付けツールの使用を義務付けます。従わない場合にはペナルティを科す可能性があります」とクレッグ氏は説明した。
これは、Metaがこれらの措置を、AIツールで生成されたコンテンツに限らず、デジタルで作成された誤解を招く、または偽のコンテンツ全般に拡大することを示唆している可能性がある。
操作されたコンテンツに関するポリシーを拡大し、AIではない誤解を招くコンテンツも対象に含めることは、2月5日に公開されたブログ投稿で、偽のバイデン動画に対する同社の対応を取り上げたMetaの監督委員会が示した勧告の一つだった。
翻訳元: https://www.infosecurity-magazine.com/news/meta-introduce-label-ai-images/
