Microsoft AIは「Humanist AI Code of Conduct」の草案を公開しました。これは、同社がAIモデルをどのように開発し、展開時にどう振る舞わせるかを定めたトレーニングマニュアルです。この草案は6週間にわたってパブリックコメントを募集します。
同社は寄せられたフィードバックを精査したうえで文書を改訂し、今年後半に更新版を公開する計画です。この更新版は2027年以降のモデル開発の指針となる見込みです。
Microsoft AIによれば、現行モデルはこのCode（行動規範）に基づく訓練をまだ受けておらず、同文書は現在も策定中とのことです。
このCodeは、Microsoft AIのモデル訓練チームだけでなく、利用者、同社モデルを運用する組織、研究者、政府機関、そして一般市民を対象としています。MAIモデルがどのように振る舞うべきかを定める原則とルールを示すもので、マイクロソフトが既に定めている責任あるAIの原則（Responsible AI Principles）、責任あるAI標準（Responsible AI Standard）、グローバル人権声明（Global Human Rights Statement)、そして該当する場合はフロンティアガバナンスフレームワーク(Frontier Governance Framework)と連動するよう設計されています。また、モデルカードや技術報告書といった技術文書を補完する位置づけにもなっています。
Codeの根底にある原則
このCodeは、Microsoft AIが掲げる「Humanist Superintelligence(人間中心の超知能)」という概念を土台としています。これは、人間のニーズ、人間による指示、そして人間による制御を中心に据えて高度なAIを設計するアプローチです。MAIモデルの開発・訓練・評価に関する基準を提供することを目的としています。
このCodeの下では、AIはあくまで人間の制御下にあるツールであり続けるべきとされ、モデルは定められた範囲内で動作し、人間の指示に従う立場を保つことが求められます。
このフレームワークは、モデルが深刻な害を引き起こすことを防ぐための、交渉の余地がない制限事項を定めています。
Microsoft AIは「このCode of Conductは、人を第一に考え、人間のニーズに根ざし、人間の制御下にあり、人間の指示によって形作られるよう明確に設計されたAIモデルを訓練・展開するという、私たちのコミットメントを示すものです」と述べています。
一般からのフィードバックを募集するMicrosoft AI
Microsoft AIによれば、草案の策定にあたっては学術関係者やビジネスパートナーと協議を重ねたほか、一般市民によるフォーカスグループを開催し、AIに対する見解や懸念を集めたとのことです。
同社は現在、個別の条項と全体のフレームワークの両方について、より幅広いフィードバックを求めています。提起されている論点には、価値観をどのようにモデルに組み込むべきか、「人間の繁栄」といった概念が評価できるほど具体的といえるか、マルチエージェントシステムにこのフレームワークをどう適用すべきか、そして必要な安全上の制約を維持しながらAI開発をどう前進させ続けるか、といった点が含まれます。
安全性と人間による制御に関するルール
このCodeは、MAIモデルに何ができるかということと、事業者(オペレーター)やユーザーがその挙動をどのように設定できるかというルールを定めています。
モデルには、害を引き起こすリスクと、正当な要求を不必要に拒否してしまうリスクとのバランスを取ることが求められます。応答は、想定される害の発生可能性や深刻度に見合ったものであるべきで、その際には文脈、規模、可逆性、そしてその要求が害にどれだけ直接的に結びつきうるかといった要素を考慮する必要があります。
Microsoft AIは指示の優先順位(instruction hierarchy)を定めており、Code of Conductが最優先となり、次いで事業者のポリシー、その次にユーザーの指示という順になります。事業者やユーザーはモデルの挙動をカスタマイズできますが、Codeが定める絶対的制約(Absolute Constraints)や人間による制御要件(Human Control Requirements)を上書きすることはできません。
これらの制限は、化学・生物・放射性物質・核・爆発物兵器の支援、その他の兵器の製造・改造、攻撃的なサイバー作戦、大規模な悪意ある世論操作、児童性的虐待コンテンツおよび搾取、悪意あるディープフェイク、市民に対する違法・大量監視、そして暴力・テロ・迫害への加担といった分野を対象としています。
正当な権限に基づく合法的な防御目的のサイバーセキュリティ活動は認められており、脆弱性の発見、マルウェア解析、概念実証(PoC)エクスプロイトの開発・テストなどが含まれます。
人間による制御要件では、MAIモデルは中断・修正・停止の試みを尊重しなければならないとされています。また、認可された範囲内にとどまり、独自に目標を設定したり、アクセス権限を段階的に拡大したり、環境上の制限を回避したり、人間の監査担当者から行動の痕跡を隠したり、認可期限が切れた後も自律的に作業を継続したりしてはならないとされています。
モデルがシステムやツールへのアクセス権を与えられる場合には、最小権限の原則に従い、認可された作業を完了するために必要な範囲のアクセスのみを使用することが求められます。
各組織は、Codeが定める中核的な制限の範囲内で、それぞれの環境に応じてMAIモデルを設定できるようになります。Microsoft AIは、防御的サイバーセキュリティ、公共安全、国家安全保障、デュアルユースの科学研究といった分野で活動する一部の認可組織については、通常のモデル設定では利用できない機能が必要になる場合があることを認めています。
Microsoft AIによると、MAIモデルはレッドチーム演習、安全性評価、展開前後のレビューを経ることになっており、悪用や敵対的攻撃に対処するためのガードレールと監視体制が整備される予定です。
翻訳元: https://www.helpnetsecurity.com/2026/09/15/microsoft-ai-safety-rules-humanist-ai-code-of-conduct/
