AIという幻想：コンサルティング業界の最近のスキャンダル
政府調達に人工知能を組み込もうとする急速な動きの中で、ある大手企業がこの技術の重大な弱点――情報を捏造してしまう傾向――につまずいた。この出来事は、特に人工知能が関与する場合における、外部委託された専門知の信頼性をめぐる世界的な議論に火を付けた。
機械の中の蜃気楼
この問題は、シドニー大学の研究者であるクリストファー・ラッジ博士による綿密なレビューを通じて明らかになった。オーストラリア政府向けにデロイトが作成した包括的な報告書――費用は驚くべき29万ドル――を精査していたラッジは、衝撃的な事実を発見した。彼は文書内で引用されている特定の判例を探していたが、そんなものは存在しなかったのだ。連邦裁判所の判決からの引用とされる箇所は完全な捏造であり、巧妙に組み立てられた法律用語の羅列は、実在するいかなる事件とも結びついていなかった。
これは単なる軽率な失敗や不注意なミス以上のものだった。事実に基づかないにもかかわらずもっともらしい文章を生成してしまう、AIの「幻覚（hallucination）」として知られる現象を典型的に示していた。デロイトは報告書の一部を生成するために高度なAIモデルを用い、結果として、専門的洞察に見せかけたフィクションの詰め合わせを政府に売ってしまったのである。同社は最終的にこの不手際を認め、Azure OpenAIのGPT-4を使用していたことを明らかにするとともに、誤りを捕捉できなかった自社の安全策が機能しなかったことを認めた。
大西洋を越えて浮かび上がるパターン
オーストラリアでの出来事は単発の誤りと受け止められかねなかったが、わずか数週間後、カナダで類似の話が浮上し、作業の自動化を急ぐことに伴うより広範な懸念を示唆した。ニューファンドランド・ラブラドール州では、州政府が医療人材不足に関する大規模な報告書をデロイトに委託しており、その費用は約160万ドルに上った。この文書は、苦境にある医療体制で医療従事者を確保するための政策判断を導くうえで極めて重要だった。
しかし調査により、重大な不整合が明らかになった。報告書は存在しない学術論文を引用し、関与していない研究者に研究を誤って帰属させていた。目立つ誤りの一つでは、これまで一度も共同研究をしたことのない二人の科学者を結び付けていた。AIはデータを歪めただけではなく、結論を正当化するための完全にでっち上げの学術的枠組みまで捏造していたのだ。これらの不整合はオーストラリアの報告書で見つかったものと酷似しており、権威ある雰囲気をまといながらも中身は完全に虚偽だった。
思考を選択的に外注することの高い代償
この二つの注目度の高いスキャンダルは、現代コンサルティングの隠れた側面を露呈させ、デロイトのような企業が長年、複雑なデータを扱える知性の貯蔵庫として自らを売り込んできた実態に光を当てた。だが、これらの事件が示した現実は、アルゴリズムが生成したコンテンツが研究プロセスをますます駆動する方向へと移行しているということだ。
デロイトの対応は慎重だった。同社は報告書の中核的な結論は依然として妥当だと主張し、AIは引用の補助や執筆の迅速化のために「選択的に」用いられたと説明した。部分的な返金を行い、修正版の報告書を提出した一方で、重要な懸念への対処は欠けていた。脚注が捏造され得るのなら、そこから導かれる政策を政府職員はどう信頼できるのか。
批判者は、問題の根はソフトウェアそのものを超えており、人間による監督の欠如を浮き彫りにしていると指摘した。専門家であれば、丁寧にレビューすれば捏造部分は容易に見抜けたはずだ。これは、スピードを追求するあまり、人間による検証という重要な工程が見落とされたか、急いで済まされたことを示唆している。要するに同社は、高い費用を払って判断をAIに外注し、このケースでは若手アナリストのほうがより正確に遂行できた可能性のあるサービスを提供してしまったのである。
専門家経済への清算
デロイトの人工知能関連の失策がもたらす含意は、いくつかの政府部局が被った恥辱をはるかに超えて響き渡る。知識経済全体における潜在的な危機を示しているのだ。政府や企業は、リスクを軽減し意思決定への確信を得るために、毎年数十億ドルをコンサルティングサービスに投じている。しかし、コンサルティング企業が検証済みの事実ではなく「もっともらしい推測」を返す技術に依存しているのなら、その助言の健全性は深刻に損なわれかねない。
これらの出来事は調達担当者の間で高まる懐疑の波を引き起こし、彼らはいま、依拠する報告書が「誰によって」あるいは「何によって」作られているのかについて、より透明性の高い説明を求めている。AIはスピードやコスト効率といった利点をもたらす一方で、デロイトの経験は、AI生成の不正確さに伴うリスクが信頼に大きな影響を与え得ることを示した。
今後、「ビッグ4」のコンサルティング企業は信頼回復に向けて困難な道を歩むことになる。AIは文章の下書きを支援できても、その出力に対して責任を負わないことを強調しなければならない。懸念を示したオーストラリアの上院議員が指摘したように、政府が専門家を雇うのは「知性（intelligence）」のためであり、単なる「人工知能（artificial intelligence）」のためではない。この区別は決定的に重要になりつつあり、そして見過ごすコストはますます高くなっている。
