ITに関する判断をAIに任せることについて、経営幹部は、部下である管理職よりも気にしていない傾向があるようです。TeamViewerが公表した新たな調査で明らかになりました。
調査によると、セキュリティやデータ、事業運営に影響しうるIT上の問題をAIが解決する際、人間の関与を求める中間管理職は46%でした。経営幹部では24%にとどまります。
この差は、AIを使った日々の業務に最も近い立場の人ほど、AI戦略を決める側よりも強い監督を求めていることを示唆しています。一方で、AI導入の障壁として最も多く挙げられたのは、引き続きセキュリティ、プライバシー、リスクへの懸念でした。調査対象のIT意思決定者の45%がこれを挙げています。
最大の懸念は不正アクセス
AIシステムに与えられる自律性が高まるほど、警戒感も強まっています。人間が関与しないままAIが動くことへの最大の懸念として、セキュリティリスクや不正アクセスを挙げた従業員は、ほぼ3人に1人（30%）でした。中間管理職と上級管理職ではいずれも33%に上り、経営幹部の23%を上回っています。
AIがアクセスできる範囲を制限すれば、こうした不安はある程度和らぐようです。AIが自力で問題を修正することに対し、アクセス制限があればより安心できると答えたのは、上級管理職で42%、中間管理職で37%、経営幹部で32%でした。
TeamViewerのCISO（最高情報セキュリティ責任者）であるJan Bee氏は、セキュリティは最初から組み込む必要があると述べています。「自律性を導入した後にセキュリティを追加することはできません。AIシステムに与える権限が大きいほど、その動作の透明性を確保し、どの場面で人間の承認が必要かを明確な境界で定めることが重要になります」
同氏はさらに、リーダーは「自分たちが自律性に抱いている安心感が、組織全体で共有されていると思い込むべきではありません」と付け加えました。
最も慎重なのはエネルギー分野
考え方は業界によって大きく異なります。エネルギー、公益事業、石油・ガス分野では、セキュリティ上重要なAIの判断に人間が関与することを求める従業員が49%でした。マーケティング、メディア、コミュニケーション分野では28%です。
透明性が信頼を生む
全従業員を対象にすると、強力なセキュリティとプライバシー保護があれば自律型AIにより安心できると答えた人は39%でした。ここでも、管理職は経営幹部より懸念が強い結果です。保護策を挙げたのは、上級管理職で46%、中間管理職で43%、経営幹部では34%でした。
可視性も重要です。AIが何を、なぜ行っているのかを示してくれる場合に信頼しやすくなると答えた従業員は、4分の3近い73%に達しました。また、必要なときに介入できるのであれば、AIが行動を起こしても構わないと答えた人は70%でした。AIが自律的に動く前に、アクセスできる範囲を制限してほしいという人は、3分の1強の36%です。
ただし、どこに線引きがあるのか分からない従業員も多くいます。半数を超える51%が、AIの出力をいつ信頼し、いつ検証すべきか常に分かっているわけではないと答えました。
AIが誤ったとき、責任は誰が負うのか
責任の所在も、あいまいな領域です。自律型システムがミスをした場合に誰が責任を負うのかが明確だと答えた回答者は、半数に満たない49%でした。
責任はどこにあるべきかについても、意見は割れました。IT部門が負うべきだとした回答は4分の1（26%）、自分自身にあるとした回答は25%でした。さらに17%は、誤りを起こしたのはシステムなので誰も責任を問われるべきではないと答えています。
今回の結果は、自律型AIを展開する組織が、AIが単独で動いてよい場面、監督が必要な場面、そして問題が起きたときに結果へ責任を負う主体について、より明確なルールを定める必要があることを示しています。
