AIセキュリティについて

良いレポート:

エグゼクティブサマリー: あなたのAIが安全であることを確実にしたいとしましょう。セキュリティとプライバシーのベンチマークを最大化して、それで終わりにできますか？ いいえ。というのも、ベンチマークはAIの能力を測定するのに実際には機能しないからです（たとえセキュリティのような「創発的なシステム特性」でない場合であっても）。では一歩引いて考えましょう。そもそもセキュリティはどうやって測るのでしょうか？ 良い質問です。過去30年にわたり、ソフトウェアのセキュリティエンジニアリングは、ブラックボックスの侵入テストから、ホワイトボックスのコード分析やアーキテクチャのリスク分析を経て、Building Security In Maturity Model（BSIMM）のような、事実上プロセス主導の標準へと進化してきました。ソフトウェアは事業運営に非常に大きな影響を与えてきましたが、AIはさらに深い影響を与えるように見えます。ソフトウェアセキュリティのような測定の取り組みはAIにも通用するでしょうか？ おそらく。とはいえ当面は、WHATの山を整理し、優れた保証プロセスを特定して適用することでリスクを管理することにより、AIセキュリティで実質的な進展を遂げられます。（ネタバレ: 何をしてもAIのための「セキュリティメーター」は手に入らないので、セキュリティにはいっそう注意深くある必要があります。）