出典：新華通信アラミストックフォト経由
韓国は6月3日に地方選挙を実施し、政治キャンペーンを支援するためのAIディープフェイク利用を抑制することを目的とした2つの法律を初めて施行する。大きな疑問は、それで十分かということだ。
最も劇的な問題ではありませんが、ディープフェイクは世界中の選挙における問題のままです。2024年、ニューハンプシャー州の一部の有権者は、当時のジョー・バイデン米大統領を名乗るロボットコールを受け取り、州の初期選挙に投票しないよう住民に促していました。一方、韓国は、ソーシャルメディア上の政治候補者の偽造動画からAI生成のテレビニュース報道やその他のものまで、あらゆる問題に直面してきました。
韓国の来年の大統領選挙に先立ち、李在明大統領がハンストを終了することを偽りなく示した動画が広く共有されました。当時、彼は選挙の最有力候補者であるだけでなく、野党の指導者でもありました。
ディープフェイクは何年も前から存在していますが、生成AIの高度化に伴い、その品質とアクセスが増加しています。
フィッシングメールとディープフェイク対策など、脅威認識トレーニングを専門とするAdaptive Securityの最高経営責任者（CEO）兼共同創業者であるブライアン・ロング氏は、Dark Readingに対して、2年前は説得力のあるディープフェイクを生成するには実際の技術スキルが必要だったと述べています。
「今日では、消費者向けツールは数分で説得力のある音声、動画、合成テキストを生成します」と彼は述べています。
ロング氏は、6月3日の選挙が韓国の完全な規制枠組みの最初の本当のストレステストになると述べています。明確な法的インフラストラクチャは、調査官がより速く対応でき、プラットフォームに違反コンテンツを削除するためのより明確な義務を与えるとのことです。問題は、規制当局が明確に到達できないチャネルに存在します。
「暗号化されたメッセージングアプリ、ターゲット化されたSMSキャンペーン、直接音声通話を通じて配布されるディープフェイクは、事実確認者よりも速く移動します。プラットフォームがクリップを削除するまでに、それはすでに意図した人々に到達しています」と彼は言います。「法律は供給側に対応します。認識は需要側に対応します。疑わしい電話と同じ懐疑心で政治的音声と動画にアプローチする有権者は、操作されるのがはるかに難しいです。選挙シーズンの前に大規模でその本能を構築することは、ほとんどの国がまだ初期段階にあるところです。」
韓国：ユニークなディープフェイクテストケース
韓国は、選挙前のディープフェイク利用を制限し、コード化されたスケールで罰することを目的とした措置を講じた点で独特です。2023年に確立された公職選挙法第82-8条は、選挙の結果に影響を与えることを目的とした仮想音声、画像、または動画の使用を禁止しており、選挙日の90日前までは現実と区別するのが難しいものです。これは、生成されたと明確にラベル付けされたコンテンツや投票を促すために作成されたコンテンツなど、ディープフェイクを意図した個人またはキャンペーンが生成するのを防ぐことを目的としています。
第82-8条に違反する者は、「7年以下の懲役または1000万ウォン以上5000万ウォン以下の罰金に処せられる」と法律に記載されており（米ドルで約6,700ドルから33,500ドル）。
これに加えて、昨年初めに確立され、今年1月に施行されたAI基本法もあります。この法律は実質的で、AIの多くの側面を規制することを目的としていますが、関連部分は第31条第3項の形で提示されます。
「AIシステムが現実のコンテンツと区別するのが難しい仮想音声、画像、または動画を生成する場合、AI事業者は、明確に認識できる方法でユーザーに通知または表示するものとする」と法律に読まれています。「ただし、このような出力が芸術的または創造的な作品を構成する、またはその一部を形成する場合、このような通知または表示は、それらの展示または享受に干渉しない方法で行われる場合があります。」
AI基本法はまた、広く言えば、ディープフェイクAIコンテンツを生成する企業が、透かしなどを通じてコンテンツがAI生成であることを明確にすることを要求しています。法律で説明されているようにディープフェイクコンテンツの使用を透過的に開示しない企業は、3000万ウォン以下の行政罰に直面する可能性があります（米ドルで約20,000ドル）。
その調査を促進するために、韓国の国家警察庁（KNPA）は、2024年に展開したディープフェイク検出ツールを開発しました。
ディープフェイクに対抗するために最善を尽くしている国は注目に値します。特に、韓国は近年のAI生成の露骨なコンテンツの急増に対抗しなければなりませんでした。アイデンティティ盗難研究会社Security Heroの2023年報告書は、世界的に「韓国の歌手や女優はディープフェイクポルノに描かれた個人の53％を占め、最も一般的にターゲットになるグループである」と述べています。
これを組み合わせると、これは国家レベルでの包括的なAI法の初期の例を示しています。
比較として、米国では選挙に影響を与えるためにディープフェイクの使用を明示的に規制する包括的な法律はありませんが、カリフォルニア州やテキサス州などの複数の州があります。FBIと法務省は、選挙干渉とアイデンティティ盗難に関連する現行法の下でもディープフェイクを調査することができます。
ヨーロッパにはEU AI法があり、実生活の人、物、場所、または実体に似ている画像、音声、または動画を操作するAIシステムのユーザーは、コンテンツが人為的に生成または操作されたことを開示する必要があります。
ディープフェイク規制はほんの始まり
抑止力として、結果は混合されています。2024年の地方選挙シーズンに先立ち、韓国の国家選挙委員会は1月29日から2月16日の間に選挙法に違反する129のディープフェイクを摘発したと述べています。そして今年、6月の地方選挙前に、韓国の選挙当局が日々ディープフェイクと積極的に戦っていることが報告されています。
ディープフェイク検出を専門とするベンダーであるGetReal Securityの共同創業者であるハニー・ファリード博士は、韓国がほとんどの政府よりも速く動いたことに対してクレジットに値すると述べています。しかし、彼は規制はディープフェイクの問題の解決に対して、上限ではなく床を設定していると述べています。
「中核的な問題は速度と非対称性です」と彼は言います。「大統領または市長候補者の現実的なディープフェイクは、公開されているツールを使用して製作でき、数秒以内にインターネット全体に広がる可能性があります。それを検出し、調査し、削除する法的機械は、数日または数週間のスケールで動作します。そのギャップは損害が行われる場所です。選挙委員会が何かが合成であることを確認するまでに、それは数百万回表示されている可能性があります。」
ソーシャルプラットフォームは監視するのが難しく、国外で活動する脅威行為者は実質的な責任に直面していません。ファリード氏は、規制は有用ですが、それ自体では十分ではないと追加しています。組織は、ソーシャルメディアプラットフォームに責任を持たせる方法、検出インフラストラクチャを使用する（韓国が行う）、および促進するなどのレイヤー化されたアプローチが必要ですメディアリテラシー。
ファリード氏は、秋の中盤選挙に向かう米国は困難な状況にあると述べています。この国は、スコープ、施行、および憲法の耐久性が大きく異なるパッチワークの州法を持っています。
これに対抗するために、彼は、政府は選挙セキュリティ装置に検出をベイクし、ディープフェイク偽情報を広がるのに収益性のあるコンテンツ経済を見直すためのプラットフォームを責任者として扱う必要があると述べています。プロベナンスツールの使用はまた、コンテンツの起源がどこから来たのかを認証することができます。TikTokとMetaのような一部の企業は、コンテンツプロベナンスと真正性のための連合（C2PA）によって確立された基準に従って特定のコンテンツに自動AIマーカーを適用しています。
Adaptive Securityのロング氏は、米国が韓国から学んだことに基づいて構築する機会があると述べています。
「明確なタイムライン、ラベリング要件、および施行可能なペナルティを含む連邦の枠組みは、2026年の中盤までのすべての管轄区域に一貫した根拠ルールを与えるでしょう」とCEOは述べています。「現在行われている仕事は、有権者が11月に経験することの条件を設定しています。」
翻訳元: https://www.darkreading.com/vulnerabilities-threats/can-laws-stop-deepfakes-south-korea
