AIはセキュリティの現在である

セキュリティを実装するためのソフトウェアエンジニアとしてのLLMの使用

LLMはこのプロセスをより多くの人々にアクセス可能にしました。

現在、影響を受けたリソースを担当するソフトウェアエンジニアはこのすべてを処理でき、セキュリティエンジニアがより技術的な領域に焦点を当てる時間を解放します。

ソフトウェアエンジニアは脆弱性のリストにアクセスし、最も重大なものについてAIに情報を尋ねるでしょう：

• セキュリティエンジニア： CVE-2025-22871の影響を受けているワークロードはどれですか？
• AI： リスク露出に関するコンテキスト付きのワークロードの概要を提供します。また、完全なリストへのリンクと、UIで同じデータを取得するためのクエリも含まれています。
• SE： coresワークロードについて教えてください。
• AI： ワークロードが実行されている場所と同様のワークロードに関するコンテキストを提供します。
• SE： このクエリを説明できますか？
• AI： クエリのステップバイステップの説明を提供します。
• SE： このCVEを修正すべきですか？
• AI： 悪用可能性、露出時間、修正の入手可能性に基づくリスク評価の後、はいと答えます。また、いくつかの修復ステップも提供します。

説明を求め、インフラストラクチャについて利用可能な情報を考慮に入れた個人化された応答を取得できることはゲームチェンジャーです。考えてみてください。代替案はインターネットを検索し、どの情報があなたの特定のユースケースに適用されるかを分類するために時間を費やすことです。

イベント調査中のコンテキスト取得のためのMCPの使用

A MCPサーバはLLMが理解できる形式でプラットフォームに関するコンテキストを提供します。その後、LLMがプラットフォームと相互作用できるようにアクションを利用可能にします。

最近、セキュリティエンジニアがGitHub MCPを使用してセキュリティアラートのソースを調査する方法を示しました。会話は以下のようになります：

• セキュリティエンジニア： 最新の5つの高度なセキュリティイベントは何ですか？
• AI： タイムスタンプ付きのセキュリティイベントのリストを返します。最初の1つは「重大なシステムパスへの権限のない書き込み操作」と読みます。
• セキュリティエンジニア： 最初のイベントに焦点を当ててください。そのコードのリポジトリは「sysdig-articles」です。コード内のどこで起こっていますか？
• AI： 問題を引き起こしているファイルと行を正確に特定します。また、コードが何をするかについての簡潔な説明も提供します：/etc/hostsファイルが編集されています。
• セキュリティエンジニア： これはセキュリティリスクですか？
• AI： ほぼ正確な説明を伴う肯定的な応答を提供します。
• セキュリティエンジニア： このコードをKubernetesクラスタで実行しています。この機能のネイティブな代替案はありますか？
• AI： 複数の選択肢と「hostAliases」の使用方法に関する詳細な説明を提供します。
• セキュリティエンジニア： GitHubでこのセキュリティ問題を修正できるようにイシューを作成してください。コードの著者に割り当ててください。含める内容：セキュリティ問題に関するすべての情報、問題を引き起こしているソースコードへのリンク、Kubernetesの解決策を提案します。
• AI： 要求されたとおりにイシューを作成し、そのURLを返します。

繰り返しますが、AIエージェントがセキュリティエンジニアが問題を特定し、開発チーム向けの詳細なイシューを作成するのを支援する方法は、ゲームチェンジャーです。LLMがなければ、セキュリティエンジニアは問題を理解するために一時停止することすら検討しないでしょう。これは、2つのチーム間に余分な摩擦を引き起こす可能性があります。

ランタイム保護は以前よりも重要です

予期しないことを期待します。

AIがサイバー犯罪者が新しいゼロデイ脆弱性を発見するのを支援する場合、マルウェア署名に依存することができたのはずっと前です。

また、AIは完璧ではありません。AIに大きく依存すると、意図しないセキュリティギャップが残る可能性があります。

ランタイム検出を強化する必要があります。防御の最後の砦がこれほど重要になったことはありません。

ノイズ、意図しない結果

コーディングとセキュリティをすべての人にアクセス可能にすることの結果は、より多くの人々がバグ報奨金プログラムに参加していることです。

これらのプログラムは通常、ソフトウェアの脆弱性を見つけて報告するセキュリティ研究者に報酬を与えます。ただし、それらは貪欲なレポーターによってハイジャックされたようです。彼らは無意味なものを送信し、開発者が実際の問題を調査するために使用できる時間を奪っています。

事態は手に負えなくなり、curl は報告に報酬を与えるのをやめ、提出プロセスを調整しました。

AIはガードレールが必要です

AIが多くのタスクで成功する方法は印象的です。ただし、この成功率は場合によっては十分ではありません。

テキストを要約するときに1%失敗することは許容可能です。車の運転中にそれほど多く失敗することは悲劇です。

同様に、悪質な活動の1つのインスタンスでもフラグを立てられないことは、インフラストラクチャ全体を危険にさらす可能性があります。前に述べたように、ランタイム保護は、あらゆるギャップをカバーするためにますます重要です。

AIはノイズを生成しすぎる可能性があります

エラー率について。これは実際には、あなたがしばしば調整できるメトリックです。ただし、精度とノイズのバランス行為です。疑わしいものに対してアラートを発するようにAIを設定すると、すべての重要なセキュリティイベントが表示されますが、誤検知の山の下で溺れるリスクもあります。ただし、確実な場合にのみ報告するようにAIに指示する場合、物事が明確でないセキュリティイベントの一部を逃します。

AIエラーは見つけにくい

従来のコンピューティングが明確なエラーで失敗する一方、Gen AIはエラーメッセージで正直に答えるよりも応答を与えることを優先します。エージェントはこれらの間違った答えを完全な信頼を持って提供します。懐疑的なままでいて、彼らの仕事をダブルチェックしてください。

AIは監査できません

AIモデルはブラックボックス、数値マトリックスの大規模なコレクションであるため、実際には中に入って彼らがどのように機能するかを見ることはできません。

物事を機能させるために、それらは非決定論的であり、それらの動作をデバッグするのは困難です。

その結果、セキュリティ上の欠陥がある場合、またはモデルが毒殺された場合、手遅れになるまで検出されません。