サイバー機関、AI時代におけるデジタルトラスト推進のため新たなプロベナンス報告書を発表

生成AIの広範な採用により、オンライン上には誤解を招くコンテンツが大量にあふれるようになっている。

デジタル情報の信頼性を回復させるため、英国のNational Cyber Security Centre（NCSC）とカナダのCentre for Cyber Security（CCCS）は、公開コンテンツのプロベナンス（来歴）に関する新たな報告書を発表した。

プロベナンスとは、起源や出所を指す。外部のオーディエンスとのより強固な信頼を構築するために、組織は自らの情報の公開プロベナンスへの取り組み方を改善する必要があると、同報告書は述べている。

この発表について、NCSCの最高技術責任者（CTO）であるOllie Whitehouse氏は次のように述べている。「この新しい刊行物は、コンテンツ・プロベナンス技術という新たに台頭する分野を検証し、これらのリスクをどのように管理できるかについて、さまざまなサイバーセキュリティの観点から明確な洞察を提供しています。」

「デジタルコンテンツにおける信頼を保証・担保する単一の解決策は存在しませんが、この協働は、私たちの集合的なデジタルセキュリティと繁栄を守るため、さらなる検証に値する重要な概念と戦略を提示することを目指しています。」

コンテンツ完全性の未来

コンテンツのプロベナンスに取り組む産業界の継続的な取り組みとして、Coalition for Content Provenance and Authenticity（C2PA）のような団体があり、Google、OpenAI、Meta、Microsoftといった生成AIおよびビッグテック企業の支援を受けている。

しかし現在、動画、画像、テキスト文書など、さまざまなメディアタイプを横断する相互運用可能な標準の必要性が高まっている。コンテンツのプロベナンス技術は存在するものの、この分野は依然として未成熟である。

中核となる技術は、信頼できるタイムスタンプと暗号学的に保護されたメタデータを用いて、コンテンツが改ざんされていないことを証明するものだ。しかし、これらの安全な技術の開発には、どのように、そしていつ実装するかといった課題が存在する。

今日の技術は、プロベナンスデータを理解することをユーザー側に求めるため、エンドユーザーに過度な負担を強いている。ユーザーは、本来であればウォーターマークなどから正当性を判断できるべきところを、受け取ったコンテンツのメタデータを読み取り、精査して正当性を評価しなければならない。

プロベナンスシステムは、ユーザーがコンテンツを「誰または何が作成したのか」「いつ作成されたのか」「編集や変更が行われたかどうか」を確認できるようにする必要がある。

サイバー犯罪者がAI生成の画像、動画、テキストをますます利用して詐欺をより説得力のあるものにしているなか、デジタルメディアの起源と編集履歴をたどる能力は、極めて重要な防御手段となる。

NCSCとCCCSの刊行物は、この複雑な領域を、他の関係者が自信と明瞭さをもって乗り越えられるよう支援することを目指している。

また、プロベナンス技術の利用を検討している組織に対し、実践的なステップも提示している。