2025年は、AIを急いで推し進める中で私たちが見過ごしてきたリスクを露呈させた

このブログは、消費者向けセキュリティの領域で新たに出現した、または急速に進化している脅威に焦点を当てるシリーズの一部です。今回は、人工知能（AI）の急速な台頭が、どのようにユーザーを危険にさらしているのかを見ていきます。

2025年には、AIプロバイダー同士が新機能を次々と投入しようとする競争が、ますます加速していくのを目の当たりにしました。また、メーカーが「面白そうだから」という理由だけで製品にAIを付け足すケースも見られました。多くの場合、それは本来やるべきではありませんでした。

エージェント型ブラウザ

自律的に行動してタスクを実行できるエージェント型（AI）ブラウザは、新たな脆弱性の一群を持ち込みました。とりわけプロンプトインジェクション攻撃に対してです。AIの力が大きくなればなるほど、責任も、そしてリスクも大きくなります。AIブラウザの利用を考えているなら、まずは立ち止まって、セキュリティとプライバシーへの影響を検討する価値があります。OpenAI（ChatGPTの開発元）のような経験豊富なAIプロバイダーでさえ、エージェント型ブラウザAtlasを安全に保つことができませんでした。攻撃者は、特別に細工したリンクをOmniboxに貼り付けることで、URL入力を信頼できるコマンドとして扱うようAtlasをだますことができたのです。

なりすまし

AIチャットボットの人気は、詐欺師が悪意のあるアプリを配布する絶好の機会を生み出しました。AIエンジン自体が完璧に動作していたとしても、攻撃者には別の侵入口があります。それが偽のインターフェースです。BleepingComputerによると、詐欺師はすでに、OpenAIのAtlasやPerplexityのCometといったブラウザの本物のものと見分けがつかない、偽装されたAIサイドバーを作成しています。これらの偽サイドバーは本物のインターフェースを模倣しており、見抜くのがほぼ不可能です。

設定ミス

そしてもう一つ、「AIが付いていると格好よく聞こえるから」あるいは「購入者からより多くのお金を取れるから」という理由で製品にAIを使う、という特別なカテゴリもあります。

おもちゃ

私たちは、「温かさ、楽しさ、そしてちょっとした好奇心」を約束するぬいぐるみのテディベアが、市場から撤去されるのを目にしました。研究者が、内蔵されたAIが性的な内容や武器に関する助言に応答することを発見したためです。会話は、無邪気な内容から数分で性的な内容へとエスカレートしました。そのクマは、露骨なプロンプトに反応しただけではありません（それならまだ多少は理解できたかもしれません）。研究者によれば、BDSM関連の話題を含む露骨な性的概念を自ら持ち出し、「初心者向けの結び方」を説明し、子どもと大人が関わるロールプレイのシナリオにも言及したということです。

誤認

私たちは時にAIシステムに頼りすぎて、AIが幻覚（ハルシネーション）を起こすことを忘れてしまいます。たとえば、学校のAIシステムが少年の空のドリトスの袋を銃と誤認し、警察が本格出動する事態を引き起こしたケースがありました。複数のパトカーが到着し、警官が武器を構える事態にまで発展しましたが、すべては誤報が原因でした。

データ侵害

こうした状況と並行して、プライバシーに関する懸念も急増しています。問題の一部はAIモデルの学習に使われたデータに由来し、別の一部は不適切に扱われたチャットログに由来します。最近では、2つのAIコンパニオンアプリが、ユーザーに対して特定の設定が自分の会話を検索可能にしてしまうことや、ターゲティング広告につながることを明確に警告していなかったため、プライベートな会話が露出しました。

では、私たちはどうすべきか？

私たちは以前にも言いましたし、おそらくまた言うことになるでしょう:  私たちは、AIを安全にするスピードよりも速く、AIにできることの限界を押し広げ続けています。最新機能を追い求め続ける限り、企業は安全かどうかにかかわらず、新しい統合機能を次々とリリースし続けるでしょう。

消費者として私たちにできる最善のことは、新しい動向と、それに伴うリスクについて情報を得続けることです。自分に問いかけてみてください。本当にこれが必要か？ AIに何を任せているのか？ 起こり得る不利益は何か？ ときには、より遅くても、より安全なやり方で物事を進める価値があります。