子供向けAIチューター、その安全性は本物か

Kids Online

AIチューターは学習支援として役立つ可能性がありますが、その品質や安全対策は製品によって大きく異なります。子供に使わせる前に、保護者がチェックすべきポイントをまとめました。

AIは医療からマーケティングに至るまで、実に多様な業界に変革をもたらしています。そして今、その波は教育分野にも及んでいます。各国政府はコスト削減と学習成果の向上を実現する好機と捉えており、学校側も生徒一人ひとりに合わせて演習内容を調整できるツールの導入を検討しています。一方で保護者にとっても、家庭教師を雇う費用をかけずに子供の教育を充実させられるチャンスと映っています。しかし、AI関連の話題に付きものなように、そこにはメリットとリスクの両方が存在します。

保護者の間では、AIへの過度な依存や思考力の低下を懸念する声がよく聞かれます。しかし、それだけでなく、セキュリティやプライバシーに関する問題も潜んでいる可能性があります。特に、使っているツールが実質的にはただのチャットボットにすぎない場合は注意が必要です。保護者は、機械知能にどのような限界があるのかを理解しておくべきでしょう。

急拡大するAIチューター市場

AIチューターツールの市場は今、急成長を遂げています。ある試算によれば、市場規模は2025年から2033年にかけて約20億ドルから177億ドル超へと拡大する見込みです。英国政府はすでに、教育技術企業やAI企業に対して教室向けツールの設計への参加を呼びかけています。政府によれば、最大45万人の恵まれない環境にある児童生徒がその恩恵を受けられる可能性があり、家庭教師を雇う余裕のない家庭をAIが支援できるとしています。米国では学区ごとに状況は異なるものの、AI・テクノロジー企業が生徒や教師向けの専用ツールを提供するという大まかな流れは共通しています。

市場は急速に成熟しつつあります。現在では、さまざまなタイプのAIチューターツールを購入・利用できるようになっています。実際、「AIチューター」という言葉は、驚くほど幅広い製品群を指す言葉として使われています。教育向けのラベルが貼られただけの汎用チャットボットに過ぎないものもあれば、カリキュラムを軸に構築された体系的な学習システムもあります。

市場の下位層に位置するのは、シンプルなチャットボットやAIアシスタントです。これらは要約や一般的な質問への回答はできても、それ以上の価値を提供するとは限りません。それどころか、利用者に代わって問題の答えをそのまま出してしまうこともあります。もう一段進んだ選択肢としては、教育専用に設計されたチャットボットが挙げられます。これらは質問に直接答えるのではなく、「ソクラテス式」の指導法を採用するようプログラムされています。

さらに高度なものとして、人間が設計した既定のカリキュラムを提供するインテリジェント・チュータリング・システム（ITS）があります。これらは学習を「足場掛け」する形でヒントを提示し、生徒が答えに自信を持てないときにサポートするとともに、不適切なコンテンツが表示される可能性を事実上排除しています。

AIチューターは本当に効果があるのか

これが実際に効果を発揮するかどうかは、まだ結論が出ていません。一部では有望な結果も見られますが、あらゆる状況においてAIチューターが学習効果を高めるという広範な主張を裏付けるには至っていないようです。むしろ、状況を悪化させている可能性さえあります。英国で最近実施されたある調査では、教師の3分の2が、AIの利用によって生徒の文章力や問題解決能力が低下していると、すでに実感していると回答しています。別の調査では、「AIツールの頻繁な利用と批判的思考力との間に有意な負の相関関係」があることが示されています。この調査は、子供の指導にAIを利用することが「深く内省的な思考プロセスへの関与を、意図せず損なう可能性がある」と指摘しています。

これは、子供にAIツールの利用を促すことに伴う、最も大きな発達上のリスクの一つといえます。AIがあまりにも早く答えを出してしまったり、少なくとも学習者にとって過程を簡単にしすぎてしまったりすると、長期的に見て有害な思考の怠惰さを助長しかねません。

そのほかにも、心理社会的なリスクが潜んでいます。子供は、自信満々に見えるAIチューターを過度に信頼してしまい、大人よりも幻覚（ハルシネーション）による誤情報を鵜呑みにしやすい可能性があります。さらには、AIを疑似的な友人のような存在とみなすようになり、同年代の仲間との情緒的なつながりの形成を妨げてしまうことも考えられます。また、AIは多くの点で教師としては不十分です。質問への「答え」は知っていても、学習に行き詰まって苛立つ子供に寄り添う力は持ち合わせていません。人間の教師が備える共感力やソフトスキルは、機械が模倣するのが非常に困難、あるいは不可能に近いものです。

したがって、ここで重要になる問いの一つは、そのツールが子供にどのような関わり方を促すのかという点です。子供に自分の考え方を示させ、問題に取り組ませ、フィードバックに応じさせるような仕組みになっているでしょうか。それとも、宿題を早く終わらせられるようにする一方で、実際にはAIが思考の大部分を静かに肩代わりしてしまっているのでしょうか。

セキュリティとプライバシーのリスク

懸念点はそれだけではありません。制限のかかっていないチャットボットなどのツールを利用するユーザーには、会話が年齢にそぐわない内容へと逸れてしまうリスクがあります。また、AIチューターは子供の回答内容だけにとどまらず、はるかに多くの情報を収集する可能性があります。製品によっては、プロンプト、学習課題、成績データ、興味関心、アカウント情報、デバイス識別子、さらには音声データまで保持することもあります。モデルに共有された情報は学習用途に使われる可能性があり、場合によっては他のユーザーに流出することも考えられます。さらに、広告主やその他の第三者と共有される可能性もあります。

これは単なるプライバシー上のリスクにとどまりません。モデル提供者や、子供のデータを預かる信頼された第三者のいずれかが侵害を受ければ、本格的なセキュリティ問題に発展しかねません。もし音声操作型のツールであれば、提供者は子供の生体データを保有していることになります。これはハッカーが本人の身元と結び付けることができれば、非常に価値の高い情報となってしまいます。

これを踏まえ、保護者としては次のような点を確認しておく必要があります。

• そのサービスの利用規約上、子供の年齢が利用対象に達しているか
• どのような情報が、何の目的で、どのくらいの期間収集されるのか
• 会話内容がAIモデルの訓練や改善に利用されるかどうか
• 保護者が子供の情報にアクセスし、削除できるかどうか
• どのサービス提供者や他の事業者にデータが渡るのか
• その製品が広告を表示したり、データをプロファイリングに利用したりするかどうか

最後に、プロンプトインジェクションのリスクも挙げられます。これは、AIツールが安全対策上のガードレールを無視するようだまされ、信頼できないコンテンツを表示してしまう現象です。お子さんがこの手法に精通していれば、年齢にそぐわない情報にアクセスできてしまうかもしれません。あるいは、ハッカーが正規のWebページに命令を仕込んでおき、AIがそのページを読み込んだ際にフィッシングサイトへ誘導したり、その他の悪意ある動作を実行させたりする可能性もあります。

保護者が取るべき対策

保護者が考えるべきことは数多くあります。家庭教師代わりにAIツールを子供に使わせたいと考えているなら、まずはシンプルなアシスタント型のツールと、専用のITSとの違いを理解しておきましょう。単に答えを提供するだけのツールではなく、子供の学習プロセスを導いてくれるツールを選ぶことが重要です。

そのほか、以下の点も検討してください。

• データ保護規制（COPPA、CCPA、GDPRなど）に準拠しているツールを選ぶこと。これにより、子供のデータが基盤となるAIエンジンと共有されずに済みます
• 子供の学校が承認している、あるいは教育的な裏付けのあるツールを選ぶこと
• プライバシーに関する情報、特にモデルの訓練、データの保持期間、広告、第三者への提供に関する部分をよく読むこと
• 子供と一緒にツールを使うこと。AIがいかに優れていても、人間と一緒に学ぶことのほうが、子供にとってより有益な場合がほとんどです
• 個人情報をAIに絶対に教えないこと、そしてハルシネーションの見分け方を子供に教えること。これは今後、子供が生涯を通じてAIを利用していく上でも役立ちます
• 子供と話し合い、AIについてどう感じているかを確認するとともに、AIには感情を持ったり感じたりする力がないことを理解させること
• チューターが間違っていても自信満々に話すことがあると説明すること。重要な回答は教師や教科書、その他の信頼できる情報源で必ず確認させること
• 年齢に応じた設定が利用可能であれば、それを有効にすること
• スクリーンタイムと同様に、1日あたりの「AI利用時間」を制限すること
• 子供のプロンプト履歴を確認し、ツールを正しく安全に使えているかチェックすること

この技術は急速なペースで成熟しつつあり、新たなサービスが次々と市場に登場しています。もしAIチューターを試してみたいと考えているなら、市場に出回っている最新の情報を常に把握しておくようにしましょう。そして、それが昔ながらのオフラインでの学習に取って代わるものではないかもしれない、ということも忘れないでください。