AIが本番稼働した後：セキュリティチームが主導権を握るための12の実践

前回のコラムでは、AIアプリケーションが本番環境に移行した際にセキュリティチームが不意を突かれないようにするための提案をいくつかご紹介しました。今回は、AIアプリケーションを運用セキュリティワークフローに効率よく、かつ効果的に組み込むために何が必要かについて考えを述べたいと思います。AIアプリケーションをめぐる期待は非常に高い一方で、多くのセキュリティチームはさまざまな理由から、AIアプリケーションのセキュリティ確保・監視・防御に苦労しているのが現状です。

以下は網羅的なリストではありませんが、AIアプリケーションを運用セキュリティワークフローに組み込む際に役立つと感じた12の実践をまとめました。

1. 可視性：見えないものは守れません。そのため、可視性はAIアプリケーションのセキュリティ確保における最も根本的な基盤と言えます。AIアプリケーションの把握・棚卸しにとどまらず、機密データの露出、脆弱性、制御の不備、不正行為、攻撃、その他の問題を特定するうえでも可視性は欠かせません。継続的な可視性は、AIアプリケーションを運用セキュリティワークフローに組み込む際の非常に重要な要素です。
2. リスクの把握：可視性を真剣に確保できていれば、リスクに関する良質なデータが手に入ります。そのデータを活用することで、推測に頼るのではなく、科学的にリスクを理解できます。単なる一時点のスナップショットにとどまらず、ほぼリアルタイムで継続的にリスクを把握することで、セキュリティチームは1つまたは複数のアプリケーションが企業にもたらすリスクをより正確に評価できるようになります。リスクの把握も、AIアプリケーションを組み込む際の有効な手段の一つです。
3. 信頼関係の構築：ディスカバリ（検出・発見）は、先述した可視性において重要な役割を担います。ディスカバリで得られたデータは、セキュリティチームとアプリケーションオーナー、プロダクトマネジメント、開発者などの重要なステークホルダーとの関係構築を促す触媒となります。時間をかけてこれらの関係が成熟すれば、相当な信頼関係が築かれます。この信頼はセキュリティチームにとって大きな財産となります。
4. 信頼関係の活用：前のステップで築いた信頼関係は、セキュリティチームがソフトウェア開発ライフサイクル（SDLC）のより早い段階から関与しやすくする効果があります。これにより、AIアプリケーションを運用セキュリティワークフローに組み込みやすくなり、企業全体のセキュリティ態勢にとっても良い結果をもたらします。
5. テレメトリ：ディスカバリと可視性が適切に実施されていれば、相当量のテレメトリが生成されているはずです。このテレメトリデータは、AIアプリケーションとその基盤となるインフラを網羅的にカバーすることが重要です。具体的には、AIレイヤー、APIレイヤー、アプリケーションレイヤーのそれぞれを検査してテレメトリを生成し、そのデータをSIEM・SOAR、または使用している記録システムに確実に流すことが求められます。アプリケーションとインフラの深部まで把握し、そのテレメトリをセキュリティチームが分析・調査・対応などに活用できる状態にしておくことは、AIアプリケーションを適切に保護するうえで極めて重要です。
6. プロセス：この項目は最も地味に見えるかもしれませんが、他のあらゆるセキュリティ領域と同様に、AIアプリケーションのセキュリティ確保に関するプロセスと手順を整備することは重要です。これによりセキュリティチームへの明確な指針が生まれ、より機敏に行動・対応できるようになります。セキュリティチームに次々と降りかかる難題に対処するうえで、この機敏さは非常に重要です。
7. 制御の適用：どれほど優れた制御であっても、企業が実際に適用できなければ意味がありません。したがって、アプリケーションが稼働するさまざまな環境全体にわたって、セキュリティチームが制御を容易に実装・適用できる体制を確保することは、AIアプリケーションのセキュリティ確保における極めて重要な要素です。
8. 予防的制御：企業全体にわたる優れた予防的制御は、AIアプリケーションの組み込みを含むあらゆる場面でセキュリティチームを支援します。これらの予防的制御には、不正利用、詐欺、DDoS、悪意のある自動攻撃、その他の脅威への対策も含まれることを忘れてはなりません。セキュリティチームは、適切な予防的制御を整備するとともに、機動的にそれらを補強・改善できる体制を確保する必要があります。
9. 検知的制御：継続的なセキュリティモニタリングは、あらゆる運用セキュリティワークフローにおける重要な機能です。これらの検知的制御は予防的制御の重要なパートナーとなりますが、必要な可視性が確保され、適切なテレメトリが記録システムに流れていることが前提となります。これらが適切に整備されていれば、セキュリティチームがAIアプリケーションを保護する取り組みを大きく後押しします。
10. 調査・分析：セキュリティ上の問題が発覚した場合、セキュリティチームは対応するデータ（ログ、イベント、アラートなど）を分析・調査できなければなりません。この水準の調査・分析が可能な状態を整えることも、AIアプリケーションを運用セキュリティワークフローに組み込む際の重要な要素です。必要なテレメトリを収集するだけでは不十分であり、そのデータをセキュリティチームが実際に問い合わせ・分析できる状態にしておく必要があります。
11. 緩和・対処：セキュリティ上の問題が発生した場合、調査が完了した（あるいは十分に進んだ）段階で、セキュリティチームは対応・修復・復旧を行える必要があります。そのためには、アプリケーション・API・AIインフラへのアクセス手段を事前に確保しておくことが求められます。問題を認識した後に緩和できないという苦い経験をして初めて気づく企業も多いですが、この点は見落としがちです。
12. 継続的改善：前述の項目の多くと比べると地味ではありますが、教訓の抽出、知見の文書化、そしてそれらを継続的に実装していくことは極めて重要です。急速に変化する脅威の状況に対応できるのは、継続的な改善を通じてのみです。効果的に反復・改善を重ねることができる企業は、時代の変化に合わせてAIアプリケーションを適切に保護するために必要な調整を行う際、より柔軟に対応できるようになります。

AIアプリケーションが本番稼働に移行することで、セキュリティチームの課題は確かに複雑化します。とはいえ、その負担を軽減するためにセキュリティチームが取れる手順は存在します。今後はソフトウェア開発ライフサイクル（SDLC）のより早い段階からセキュリティチームが関与できるようになることが望まれます。しかしそれが実現するまでの間は、AIアプリケーションを運用セキュリティワークフローへ組み込む準備を積極的に進めていく必要があります。

AIリスクサミットで詳しく学ぶ | リッツ・カールトン、ハーフムーンベイ