EU AI法がAIエージェントのログ記録に要求すること

EU AI法は144ページの長さです。AIエージェント開発者にとって重要なログ要件は、互いに参照し続ける4つの条項に分散しています。ここでは、それらが何を言っているのか、期限がいつなのか、そしてギャップがどこにあるのかを説明します。

あなたのエージェントはおそらくハイリスクです

法律は「AIエージェント」という名前で言及していません。重要なのはシステムが何をするかです。あなたのエージェントが信用申請をスコアリングしたり、履歴書をフィルタリングしたり、誰がヘルスケア給付を受けるかを決めたり、保険の価格を決めたり、緊急電話をトリアージしたりする場合、それは附属書IIIに該当し、ハイリスクに分類されます。

第6条(3)は抜け道を提供しています。システムが決定結果に実質的な影響を与えない場合、適格でないかもしれません。実際には、ツールを呼び出し、その結果に基づいて独自に行動するエージェントでは、これは難しいケースです。

汎用AIモデルは第V章の下で個別の義務があります。モデル自体はハイリスクになりません。ハイリスクコンテキストで配置されると、その上に構築されたシステムがハイリスクになります。モデルプロバイダーは第V章の義務を保持します。インテグレータは第25条の下でハイリスクプロバイダーの義務を引き継ぎます。

重要な4つの条項

第12条は、ハイリスクAIシステムが「システムの生涯にわたってイベント(ログ)の自動記録を技術的に許可する」と述べています。その文の2つの単語が重い役割を果たしています。自動とはシステムが独自にログを生成することを意味し、手動のドキュメンテーションでこれを満たすことはできません。生涯とは、現在のリリースだけでなく、デプロイからデコミッショニングまでを意味します。

第12条(2)は、ログがカバーする必要がある3つのカテゴリーを定義しています。システムがリスクを提示したり、実質的な修正を受けたりする可能性のある状況、市場後監視用のデータ、およびデプロイヤーによる運用監視用のデータです。規制は形式を規定したり、特定のフィールドを要求したりしませんが、これら3つの目的だけを要求しています。

第13条は、デプロイヤーがログを収集および解釈できる方法を文書化する必要があると述べています。これは、コンプライアンスマニュアルではなく、ログレイヤーの技術統合ガイドと考えてください。

第19条および第26条は、ログを保持するための6か月以上の最小期間を設定しています。金融サービス企業は、AIログを既存の規制文書に組み込むことができます。その他のすべてのユーザーは、少なくとも半年間、場合によっては業界ルールに応じてさらに長く保持します。

通常のログでは不十分な理由

あなたのエージェントはツールを呼び出し、サブエージェントに委任し、LLM応答を取得し、最終的な回答を生成します。標準的なアプリケーションログは、問題なくすべてをキャプチャします。

問題は6か月後に現れます。規制当局は、ログが変更されなかったことを証明するよう要求します。アプリケーションログは、誰かが制御するインフラストラクチャに存在します。これらは、誰も気付かずに編集または置換できます。

第12条は「改ざん防止」とは言いません。しかし、ログを静かに改ざんでき、それを示すことができない場合、その証拠価値はゼロです。ハイリスクシステムでは、これは問題です。

このギャップにより、エージェントログの暗号署名の調査を行うようになりました。これは、Asqavと呼ばれるプロジェクトに組み込んでいるアプローチです。アイデアは単純です。各エージェントアクションを、エージェントが保持していないキーで署名し、各署名を前のものにチェーンし、受け取りをエージェントが触れない場所に保存します。1つのエントリを変更すると、チェーンが目に見えて破壊されます。

しかし、パターンはどの単一ツールよりも重要です。署名キーはエージェントの信頼境界の外に存在し、すべてのアクションが受け取りを取得し、受け取りは検証可能なチェーンを形成します。NIST FIPS 204ポスト量子署名を使用するか、別のスキームを使用するかに関わらず、これらの原則に従う実装は、第12条が目指していることを満たします。

まだ標準がありません

第12条のログ記録用の最終的な技術標準はまだありません。注視する価値のある2つのドラフトがあります。AIロギングと人間の監視をカバーするprEN 18229-1と、AIシステムログ記録に焦点を当てたISO/IEC DIS 24970です。どちらも完成していません。

あなたは、結果を定義するが、方法を指定しない規制に構築しています。ログを今正しく取得するチームは、標準が着陸したときに先行しています。待つチームは、プレッシャーの下で改造するリスクがあります。

期限と罰則

附属書IIIの義務は2026年8月2日に発効します。委員会は昨年11月のデジタルオムニバスパッケージを通じて遅延を提案し、2027年12月に延期する可能性があり、評議会と議会の両方が2026年3月に交渉立場を採択し、三者対話が進行中です。しかし、法律に可決されたものはないため、2026年8月は執行可能な日付のままです。

それを逃すと、罰金は1500万ユーロまたは世界年間売上高の3%のいずれか高い方です。規制は、この公式をすべてのエンティティに適用しますが、第99条は、罰金が比例的かつ抑止的であることを要求し、国家当局に企業の規模と経済的生存可能性を考慮するよう指示しています。実際には、最大値の公式自体は変わらなくても、スタートアップと中小企業は最大罰金より低い罰金に直面すべきです。

3つの質問

  • あなたのシステムはすべての決定ポイントでログを自動生成できますか?
  • これらのログは改ざんに耐えることができますか?
  • 規制当局が読むことができる形式で6か月間それらを保持できますか?

そうでない場合、8月は見た目ほど遠くありません。

翻訳元: https://www.helpnetsecurity.com/2026/04/16/eu-ai-act-logging-requirements/

ソース: helpnetsecurity.com