- TrendAIレポート：セキュリティ懸念にもかかわらず、67%の企業がGenAIの展開を強要されていることが判明
- 主なリスクには、機密データ露出、悪意のあるプロンプト、拡大した攻撃面、自律型コード悪用が含まれる
- ガバナンスギャップ：AIポリシーを持つのは38%のみ、57%がAIはセキュア化より速く進化していると述べ、多くが可視性やキルスイッチメカニズムを欠いている
企業は、自分たちが曝されているリスクを知りながらも、生成AI（GenAI）をプロセスと運用に統合するために急ぎ込んでいる。さらに悪いことに、多くが先に進む方法とリスクを最小化する方法について不確実であり、問題をさらに悪化させている。
TrendAIからの新しいレポートは、23カ国の3,700人のビジネスとIT意思決定者に調査を行い、大多数（67%）がセキュリティの懸念にもかかわらずAI統合を承認するよう強要されていることが判明した。
7人に1人（約15%）がこれらの懸念を「極端」と説明したが、それでも展開を承認した。
記事は下に続きます
認識の欠如ではなく
レポートは、ビジネスメーカーを夜間に目覚めさせているAIツールに関連した多くのリスクを概説した。5人中2人にとって、最大のリスクはAIエージェントが機密データにアクセスすることであり、3分の1（36%）は悪意のあるプロンプトがセキュリティを侵害することを懸念している。
AIエージェントは、AIがアプリ、または全コンピュータさえも操作することを可能にするプログラムである。例えば、フィッシングメール経由で共有される悪意のあるプロンプトは、AIエージェントが機密データをハッキンググループに送信したり、アプリ設定を変更したり、さらにはマルウェアをダウンロードしたりする結果につながる可能性がある。
回答者の3分の1（33%）にとって、AIは犯罪者が悪用する攻撃面を増やしている。同じ割合はまた、信頼されたAIステータスの悪用と自律型コード展開に関連するリスクを懸念している。
「組織はリスクの認識を欠いていません。それを管理する条件を欠いているのです。展開がガバナンスの成熟度ではなく競争圧力に駆動される場合、AIが安全に管理するために必要な制御なしで重要なシステムに組み込まれる状況を作成します。」とTrendAIのチーフプラットフォーム・ビジネスオフィサー兼責任者のレイチェル・ジンは述べています。
少なくともAIに関しては、管理とガバナンスは思ったより難しい。半数以上（57%）にとって、AIはセキュア化できるより速く進化している。つまり、システムが設定されるとすぐに、新しい潜在的なリスクが出現し、防御者は自分たちの立場を再評価するよう強制される。さらに言えば、55%はAI法的枠組みの理解においてのみ中程度の信頼を報告し、現在包括的なAIポリシーを実施しているのは3分の1（38%）だけである。
規制とコンプライアンス
最後に、5人中2人（41%）にとって、不明確な規制とコンプライアンス基準は進歩への障害と見なされている。このような思考方法は、防御者が洞察を持たない無認可ツールである「シャドウAI」を使用する結果となるため、組織にとって何かの罠を作成する。そのように、彼らは何が共有されるか、またはどのデータが最終的にどこに送信されるかを知らない。
AIをワークフローに安全に統合されたと言うことができるようにするために、企業は2つのことが必要である、と研究者は示唆している：可観測性と監査可能性、そして「キルスイッチ」メカニズム。現在のところ、回答者のほぼ3分の1（31%）が、AI システム全体の可視性を欠いていると述べた。
キルスイッチメカニズムに関しては、約40%はこの考えを支持するが、半数（50%）は実装方法について不確実である。
規制およびガバナンスの課題とリスクにもかかわらず、AI に関する見方は肯定的なままである。実際のところ、ほぼ半数（44%）は、エージェンティックAIが短期的にサイバー防御を「大幅に改善する」と信じている。
「エージェンティックAIは組織を新しいリスクカテゴリーに移動させています」とジンは付け加えた。「私たちの研究は、機密データ露出から監視の喪失まで、懸念は既に明らかであることを示しています。可視性と制御なしで、組織は完全に理解または管理していないシステムを展開しており、措置が講じられない限り、そのリスクは増加し続けます。」
もちろん TikTokでTechRadarをフォローすることもできます。ビデオ形式でのニュース、レビュー、アンボックスについて、そして WhatsAppでも私たちからの定期的な更新を受け取ることができます。
