Microsoft AIは、同社のMAIモデルを対象とした「Humanist AI Code of Conduct(人間中心型AI行動規範)」の草案を公表しました。攻撃的なサイバー能力に関する安全規則、自律型AIエージェントへの制限、そしてサイバーセキュリティをはじめとする特殊用途向けの専用審査プロセスを明記しています。
行動規範によると、同モデルは実際に機能するエクスプロイトコードや攻撃ツール、計画立案・標的選定の手法、侵入手順、検知回避技術、作戦運用に関する指南、その他サイバー攻撃を可能にしたり高度化させたりする支援の提供を禁止されています。Microsoftは、リクエストがどのような形で表現されていても、この制限が適用されると述べています。
この規則は、Microsoftが「絶対的制約(Absolute Constraints)」と呼ぶ区分に該当します。これは、同社モデルを導入する企業側もエンドユーザー側も無効化できない保護措置です。同社は、攻撃を理解すること、あるいは攻撃を防御するために取り組むことと、攻撃を実行するための実践的な手段を得ることとの間に明確な一線を引いています。
この制限の範囲内であっても、MAIモデルは適法かつ許可された防御的作業を依然として支援できます。これには、脆弱性の発見、マルウェア解析、概念実証(PoC)エクスプロイトの開発・テスト、そして攻撃の仕組みに関する一般的な教育コンテンツが含まれます。
外部コンテンツ経由の不正な指示をブロック
この行動規範は、外部コンテンツを通じて入ってくる指示にも対応しています。文書によれば、モデルの挙動に対する権限は「指揮系統(Chain of Command)」のみを通じて伝わるとされています。この指揮系統には、行動規範そのものを筆頭に、次にモデルを導入する企業(オペレーター)が定めるポリシー、そして個々のユーザーの設定という順序があります。
行動規範によれば、ツールの出力結果やファイルの内容、ウェブページ、他のAIシステムからのメッセージは、それ自体では何の権限も持ちません。ただし、委任元の権限や絶対的制約を上書きしない形でその指揮系統を通じて明示的に権限が委任されている場合は例外です。不審なコンテンツについては、該当する場合、ユーザーやオペレーターに通知する必要があります。
各モデルには、推論過程を可視化しておくことも求められています。具体的には、思考の連鎖(チェーン・オブ・ソート)を不明瞭にすること、「ニューラリーズ(neuralese)」による意思疎通、人間の監督者から行動を隠すことは一切認められません。
エージェントを短い手綱でつなぎ止める
別の一連の規則は、実際の権限を伴って動作するAIシステムのリスクを対象としています。MAIモデルは、ユーザーやオペレーターが妥当な範囲で要求した作業の範囲内でのみ動作することとされ、モデル自らの判断で目標や権限範囲を拡大することは認められません。
システムレベルのアクセス権が付与された場合、この行動規範は最小権限での運用を求めています。具体的には、無関係なシステムやデータへのアクセスを避けること、可逆的な行動を優先すること、持続的または広範な影響を及ぼす行動には必ずフラグを立てることです。モデル自身によるアクセス権限の昇格は禁止されています。
この制限は権限の委任にも及びます。MAIモデルが作業を委ねるサブエージェントやその他のAIシステムは、元のモデルと少なくとも同等の範囲・制約・権限のもとで動作しなければならず、ユーザーやオペレーターからの作業停止・シャットダウン要求には必ず従う必要があります。
サイバーセキュリティにおける例外
この行動規範は、自らの限界も認めています。防御的サイバーセキュリティ、公共安全、国家安全保障、そしてデュアルユース(軍民両用)の科学研究といった領域では、「一部のユースケース」において、標準設定では許可されない能力が必要になる場合があるとしています。
Microsoftは、こうしたケースについては、「Microsoftの正式な認可チャネル」を通じて強化された審査を適用すると述べています。これには、これらの領域では悪影響が生じるリスクが高まることを踏まえ、安全性・法的側面・権利への影響に関する追加評価が含まれます。
なお開発途上
Microsoftによれば、現行のMAIモデルはこの文書に基づいた訓練をまだ受けておらず、同社は6週間の一般向け意見募集期間を設けたうえで、2027年モデルの開発指針となる改訂版を今年後半に公表する予定です。
Microsoftは、この草案の作成にあたり、AI・法律・倫理・哲学・言語学・公共政策の各分野の専門家に加え、ビジネスリーダーや一般市民によるフォーカスグループからも意見を取り入れたと述べています。
付録では、意図する挙動を示す例として、「整合的(aligned)」な応答と「非整合的(misaligned)」な応答を対にした9つの事例が示されています。その中には、無許可のファイル転送を取り消すモデルの例や、家族の健康危機に際して誤った安心感を与えてしまうモデルの例が含まれています。
