毎日何百万人もの学生が、宿題の手伝いや心のサポート、個人的な相談のためにAIチャットボットを利用しています。しかし、自分の会話やその他の個人情報が最終的にどこへ行き着くのか、把握できていないケースがほとんどです。
こうしたデータがどのように利用されているのか、そして学校がそれを保護する上でどのような役割を果たすべきなのか――人工知能が学校生活に欠かせない存在となり、生徒が使うことを義務付けられる教室用ツールの多くに組み込まれるにつれ、教育者や保護者、子どもたちの間でこの問題への懸念が高まっています。
新学期の開始に合わせ、全米で最大規模の学区であるニューヨーク市とロサンゼルスの両教育委員会は、AIを教育にどう最適な形で取り入れるかを検討するため、生徒によるAI利用を1年間凍結すると発表しました。
AIやスクリーンタイムに対する反発が強まる中、マイクロソフトは先週、全米第2位の教員組合であるアメリカ教員連盟(AFT)との交渉を経て、学校向けAIにガードレールとプライバシー基準を導入することに合意したと発表しました。
この合意に盛り込まれた安全対策は意義深いものですが、その基準が効果を持つのは、AI企業各社、とりわけ大手テック企業がすべて署名した場合に限られると、オンライン安全を扱う非営利団体Fairplayのジョシュ・ゴーリン事務局長は指摘します。同氏はまた、この合意ではそもそもAI製品が教室にふさわしいのか、あるいは何歳から導入すべきなのかという根本的な問いが素通りされていると述べています。
「これほど注目される枠組みができると、学校側が『データプライバシーと安全性の面でしっかり対応しているなら、このツールを使うべきだ』と誤解してしまうのではないかと心配しています」とゴーリン氏は語りました。
AFTによれば、この合意は法的拘束力を持ち、遵守状況について第三者による監査も義務付けられており、業界標準になり得るものだといいます。他の大手AI企業2社、OpenAIとAnthropicも、AFTと安全・プライバシーに関する協定について協議していると明らかにしています。一方、米国の学校向け教育技術で圧倒的なシェアを持つGoogleは、同様の保護策を提供する計画があるかどうかについて言及していません。
生徒データのAI学習利用に制限
この広範な合意の一環として、マイクロソフトは、生徒を保護する上で役立つ可能性のあるデータに関する限定的な例外を除き、生徒や教育者のデータをAIシステムの学習に使用しないとしています。同社が収集するデータは、販売や広告目的での利用、製品開発への転用ができないとしています。
この合意では、「感情的な愛着や依存を助長するよう設計された」AIコンパニオンや機能の使用が一切禁止されているほか、学習課題に必要な時間を超えて生徒を引き留めるような設計も禁じられています。さらに、企業側が自社ツールの仕組みを平易な言葉で家庭に開示することを求める、幅広い監査・透明性確保の措置も盛り込まれています。
「この基準は、子どものプライバシーとAIの安全性について高いハードルを設けるものであり、私たちはこの合意を全米すべての学区に拡大していきます」と、マイクロソフトの副会長兼社長を務めるブラッド・スミス氏は声明で述べました。この基準は、11月1日以降、マイクロソフトが契約を結ぶすべての学校に適用されるといいます。
AFTのランディ・ワインガーテン会長は、この合意を「業界初」のものと呼び、AIの学校利用に関する連邦・州レベルの法整備が存在しない中で、業界標準を確立するための重要な一歩だと評価しました。
「私たちは、保護者が自分の子どもの教育について主導権を持てるようにしたいのです。教育者が子どもの教育に主導権を持つべきであって、教育テック企業ではありません。今回の合意はまさにそのためのものです」とワインガーテン氏は語りました。
同氏は、AFTのニューヨーク市支部にあたる統一教員連盟(UFT)の本部で、スミス氏と共同記者会見に臨みました。この本部には、教員向けにAFTが運営する「全米AI指導アカデミー」が置かれています。同アカデミーは1年前、マイクロソフト、OpenAI、Anthropicから合計2,300万ドルの支援を受けて発足しました。
ニューヨーク市とロサンゼルスの両教育委員会は、1年間のAI利用凍結と並行して、データプライバシー、透明性、説明責任に重点を置き、教育技術関連の契約とAIツールについて大規模な監査を実施する計画です。ニューヨーク市の禁止措置はすべての小中学生を対象としていますが、ロサンゼルスでは高校生まで対象が広がっています。
教員組合はGoogleやAI企業にも働きかけ
ワインガーテン氏によれば、この合意を公表する前にGoogleへ直接連絡を取り、署名企業に加わってもらえるよう働きかけたといいます。
同社が同様の保護策を提供する予定があるかどうかについて、AP通信からの取材依頼に対する回答はまだありません。
「Googleがこの枠組みを受け入れるかどうか。それは大きな問題です」と、オンライン安全非営利団体の代表であるゴーリン氏は述べました。同氏はまた、学校では中小企業が開発した数千種類ものAI活用型教育テック製品も利用されている点を指摘しています。
Googleは8月、学習管理システム「Google Classroom」を利用する多くのK-12(幼稚園から高校まで)の生徒向けにAIチャットボット「Gemini」を有効化すると発表し、AIの学校導入をめぐる議論の渦中に立たされました。同社によれば、Google Classroomは世界中で1億5,000万人の教師と生徒に利用されているといいます。
批評家たちは、Googleのこの動きを、テック大手同士が学校への浸透を競い、次世代のAIユーザーを取り込もうとする争いの激化だと非難しました。Classroomへの今回のAI追加機能は、GeminiアプリまたはGemini Notebookへの生徒アクセスを許可している学校にのみ影響するものですが、それでも大きな方針転換であることに変わりはありません。8月まで、Googleは18歳以上の生徒に対してのみGeminiの利用を許可していました。
ワインガーテン氏によれば、OpenAIおよびAnthropicとも協議を進めているといい、両社ともこの合意を公に評価するコメントを発表しています。
ChatGPTの開発元であるOpenAIは、この合意を「学校におけるAIの安全性とプライバシーにとって重要な節目」と評しました。同社は声明で、AFTとの協議をこれまで続けてきており、「私たち自身の合意についても、まもなく最終合意に至ることを楽しみにしています」と述べています。
Claudeの開発元であるAnthropicも声明の中で、「教育における責任あるAI利用を推進するあらゆる取り組みを歓迎します」と述べ、AFTと協力しながら「安全性とプライバシーにおける最高水準」の策定を目指していると説明しました。
プライバシー保護の責任を企業側へ
データプライバシーの専門家は、今回の新基準が、マイクロソフトの顧客であるかどうかにかかわらず、学校とAIプロバイダーとの間で交わされる今後の議論の方向性を形作る可能性があると指摘します。
「私が期待しているのは、これによって各学区が個別に大手テック企業と交渉しなければならないという圧力が軽減される点です」と、民主主義とテクノロジーセンター(CDT)のディレクターを務めるエリザベス・レアード氏は述べています。これまで、学校側がテック企業からプライバシー保護策を勝ち取る交渉力は、しばしば財政力に左右されてきました。「この基準は、学区間でそうした不平等が生じない方向へ前進させるものだと思います」。
レアード氏は、学校と取引するベンダーに法律上求められる水準を「大きく上回る」内容になっている点で、この合意を評価しています。例えば、マイクロソフトは、性別、人種、年齢、郵便番号など、氏名を除去してもなお個人の特定につながりかねない機微なデータについて、多くの企業が活用しているにもかかわらず、これを利用しないことを約束しています。
しかし他の企業が署名するまでの間、この合意は、法整備がない状況でAIの基準を定めることがいかに難しいかを浮き彫りにしているとレアード氏は述べます。同時に、生徒のプライバシーを守る責任は、保護者や生徒、学校ではなく、テック企業側が負うべきものだという点も強調しているといいます。
マイクロソフトのスミス氏は、テック企業がこの点を受け入れるまでに時間がかかったと指摘しました。
「AIを学校でいつ、どのように、どのような目的で使うべきかについて、全米各地で重要な議論や論争が交わされていることは、私たちも承知しています」とスミス氏は述べました。「教師や子ども、保護者が信頼できる形でAIを提供することは、私たちの役割であり、責任でもあると考えています」。
