米国の通信企業セキュラス・テクノロジーズは、刑務所の電話およびビデオ通話の録音を何年分も使って新たなAIモデルを訓練し、すでに受刑者の会話、メッセージ、メールの中から、計画中の犯罪行為の兆候を自動検知するテストを開始している。このシステムは通信内容をリアルタイムで解析し、犯罪がまだ「考えられている段階」の瞬間を特定しようとするもので、当局が「意図」の段階で介入できるようにすることを狙っている。
セキュラス社長のケビン・エルダーは、こうしたAI駆動ツールの開発は2023年に始まったと語り、MITテクノロジーレビューに明かした。学習データとして、同社は膨大な録音アーカイブを利用した。あるモデルは、テキサス州の刑務所で収容者が行った7年分の電話を学習している。並行してセキュラスは、各州や各郡ごとに、現地のスラングや文脈上のニュアンスを反映した個別モデルの構築も進めている。
エルダーによれば、同社は過去1年間、こうしたツールをひそかに試験運用し、自社の通信システムが導入されている施設で会話のモニタリングを行ってきたという。これには、すでに刑期を務めている人々がいる刑務所だけでなく、公判前の被収容者を収容する拘置所も含まれる。さらに、米国移民・関税執行局（ICE）との契約の下で運営されている一部の施設では移民も収容されているが、セキュラス自体はICEと直接の取引は行っていない。
同社はこの新製品を、大量のデータに「照準を合わせ」、犯罪行為の可能性がある議論が実際の行動に移される前にそれを検知・解釈できる大規模言語モデルだと説明している。実務上は、刑務所や拘置所の管理者が、ランダムに選ばれた通話や、すでに捜査当局から疑わしいと見なされている人物が関与する通話について、モニタリングを有効化できる仕組みだ。
アルゴリズムは、電話およびビデオ通話、テキストメッセージ、メールを解析し、不審な箇所を抽出して人間による確認に回す。訓練を受けたオペレーターが、ハイライトされた抜粋部分を聞いたり読んだりし、必要に応じて情報を捜査当局や施設の警備担当者に引き継ぐ。
エルダーは、セキュラスの技術がこれまでにも人身売買組織の摘発や刑務所ギャングの活動の妨害、さらには違法物品を密輸する矯正職員の特定に役立ってきたと主張している。しかし同社は、こうした新しいAIモデルによって解決された具体的な事例については一切示していない。
受刑者とその連絡先には、すべての通話が録音されることが形式的には通知されているものの、その録音がニューラルネットワークの訓練に利用されうることまで理解しているとは限らないと、アドボカシー団体Worth Risesの事務局長ビアンカ・タイレックは指摘する。彼女はこの状況を「強要された同意」と表現する。多くの受刑者にとって電話は家族との唯一の連絡手段であり、実質的に拒否は不可能だからだ。さらにタイレックは、ほとんどの州では受刑者が通話ごとに料金を支払わなければならないと強調する。つまり、彼らは自らの個人データの利用について補償を受けないどころか、そのデータが収集・分析される間も料金を支払わされていることになる。
セキュラスは、自社の目的は特定個人の監視ではなく、通信全体のエコシステムにおける「パターン、異常、違法行為」を検知することだと主張している。また同社の広報担当者は、録音やモニタリングを規定するルールは矯正施設側が定めるものであり、セキュラスはそれに従っているだけだとも強調した。受刑者が、自分の録音データをAI訓練に利用されることを拒否できるのかどうかについて、同社は直接的な回答を避けた。
批評家たちは、セキュラスにはすでに受刑者の権利をめぐる問題のある過去があると指摘する。過去の情報漏えいでは、同社が受刑者と弁護士との間で行われた、法的に保護されるべき通話を何千件も違法に録音していたことが明らかになった。ACLU（アメリカ自由人権協会）のプリズン・プロジェクト副ディレクター、コリーン・ケンドリックは、この新しいAIシステムは、すでに過剰なレベルにある監視をさらに強化するだけだと主張し、裁判所はいまだに実効性のある制限を確立できていないと批判する。彼女が警鐘を鳴らすのは、「受刑者のあらゆる言葉とあらゆる思考」が絶え間ない監視の対象となるようなシステムが生まれる危険性であり、テクノロジーが法的なセーフガードをはるかに先行してしまっているという点だ。
これに対しセキュラスは、このツールの目的は無差別な監視ではなく、慢性的な人員不足の中で既存のモニタリング業務の効率を高めることだと主張している。
別の論点は、このようなシステムの費用をどのように賄うのかという点だ。ここで、規制当局は結果的にセキュラスを後押しする形となった。2024年、連邦通信委員会（FCC）はアドボカシー団体から歓迎された改革を可決し、刑務所運営者が録音やモニタリングの費用を受刑者に転嫁することを禁じた。企業は通話そのものについては上限付きの料金を請求できるものの、セキュリティ関連の費用は矯正当局の予算で賄うこととされた。
多くの刑務所管理者や保安官はこれに強く反発し、「十分な監督」を確保できなくなると主張した。一部の施設は、受刑者の電話利用を制限する可能性まで示唆した。14州の司法長官は、この改革に異議を唱える訴訟を提起した。
その一方でセキュラスは、規則の再修正を求めて積極的にロビー活動を展開し、FCCとの会合を重ね、セキュリティシステムやAIモニタリングの費用を再び受刑者の通話収入から賄えるよう働きかけた。
6月には、ドナルド・トランプ政権下で任命されたFCCコミッショナーのブレンダン・カーが、改革の実施が延期されると発表した。彼は声明の中で、受刑者が支払う資金を使って「AIや機械学習を含む革新的な公共安全ツール」を財源支援することを事実上容認した。
10月28日、FCCはさらに一歩後退し、料金上限の引き上げを決定するとともに、セキュラスのような企業が、通話料金の中に録音、保存、文字起こしの費用に加え、これらのデータを解析するAIシステムの開発・運用コストを含めることを認めた。セキュラスの広報担当者は、同社は「手頃な料金と、不可欠なセキュリティツールの資金確保の必要性とのバランスを取る」ことを目指していると述べ、高度なモニタリングとAIは受刑者、職員、そして一般市民を守るうえで「極めて重要」だと主張した。
FCC内部の全員がこれに賛同しているわけではない。コミッショナーのアンナ・ゴメスは、この措置に反対票を投じ、監視とセキュリティの費用負担は、受刑者の家族ではなく法執行機関が負うべきだと述べた。最終的な規則はまだ発効しておらず、委員会は現在もパブリックコメントを募っている段階だが、米国における「収容下のコミュニケーション」の未来が、大規模な会話解析と予測AIとますます切り離せないものになりつつあることはすでに明らかだ。そして、そのシステムに最も影響力を持たない人々が、再びその費用を負担させられることになりそうだ。
