Grokで作成された3万5,000件超のアプリ、ログインなしで閲覧可能　研究者が確認

GrokのAIアプリビルダーで作成された3万5,000件を超えるアプリケーションが、ログインなしで開ける状態だったことが、新たなセキュリティ調査で明らかになりました。

サイバーセキュリティ企業のClarocは11月10日、一部のプロジェクトに機密性の高い業務情報や個人記録が含まれていたと報告しました。今回の調査結果は、AIが作成したアプリケーションで社内データを扱う組織にとって、懸念材料となりそうです。

調査では、2つのセキュリティ上の問題点が浮かび上がりました。1つは、誰でもアクセスできるリンクとして公開されたアプリケーションがあること。もう1つは、アクセス制御が不十分なために、保存された情報が露出しかねないことです。

公開されたアプリから機密ファイルや患者記録が見つかる

Clarocの調査では、SpaceXSI（旧xAI）とXの従業員が作成した24件のアプリケーションにアクセスできることが判明しました。このほか、特定可能な30の組織の内部情報も見つかっており、その中にはFortune 500企業6社が含まれています。

主な発見内容は次のとおりです。

• SpaceXSIとXの従業員：機密扱いの従業員向けオンボーディング計画や、594件のアカウントを網羅した営業テリトリーマップが含まれていました。米連邦機関向けの機密指定の広告提案書など、各種の広告提案書も閲覧できる状態でした。
• 医療機関：ある病院グループのアプリには、3,500人超の従業員を検索できる名簿がありました。別のアプリでは、集中治療室の患者の医療情報が見えていました。
• 請負業者：ある勤怠管理アプリでは、管理者の認証情報を含む18件の従業員アカウントが、パスワードを平文で保存したまま露出していました。

調査対象のプロジェクトの大半は、ごく普通のゲームや簡易ユーティリティでした。Clarocの推計では、社内の業務情報や個人情報を含むものは約10件に1件、深刻度が「高」または「重大」と評価される情報を含むものは約2%でした。 

研究者らは自動スクリーニングと手作業による確認を併用しましたが、攻撃者がデータを入手したかどうかは確認できていません。

公開リンクと脆弱なアクセス制御がセキュリティ上の穴に

Grokの 公開機能では、アプリケーションごとにgrok.meのアドレスが割り当てられます。研究者らは、 パッシブDNSレコードを通じてこれらのリンクを発見しました。URLを見つけた人なら誰でもアクセスできる状態です。Clarocの有料テストアカウントでは、公開画面で「リンクを知っている全員」があらかじめ選択されていました。ただし、作成者が公開を確定する操作は必要でした。

研究者が作成した2つのアプリを使った別のテストでは、さらに弱点が見つかりました。1つはサインイン保護がなく、訪問者が追加したレコードを他の人が閲覧できる状態でした。 

もう1つはGoogle認証を使っていたものの、アクセスを許可する前にチームメンバーかどうかを検証していませんでした。そのため、招待されていないアカウントでも顧客レコードの閲覧、変更、削除が可能でした。研究者らは、こうした アクセス制御の不備を自分たちのアプリでのみ実証しており、第三者のデータは改変していません。

ClarocはSpaceXSIに11月8日に通知し、その2日後に調査結果を公開しました。SpaceXSIは、公開にはユーザーの明示的な操作が必要で、従業員アカウントの初期設定は非公開アクセスだと説明しています。 

これに対し研究者らは、テストアカウントでは公開共有があらかじめ選択されていたと主張しています。従業員が作成した24件のアプリケーションはその後すべて削除されました。一方、他のユーザーの露出したプロジェクトは、報告書の公開時点でもオンラインのままでした。

AIアプリビルダーを使えば、従業員は従来のソフトウェアレビューを経ずに、実用的な業務ツールを公開できます。CISOにとっての懸念は、機密情報を保持しながら、組織の承認済みソフトウェア一覧に載らないアプリケーションを把握できないことです。 

通常のチャットボットでのやり取りとは異なり、シャドーAIアプリケーションはオンラインに残り続け、社内の記録を保存し続けることがあります。

ログイン画面があるアプリケーションでも、権限設定が誤っていれば情報を守れない恐れがあります。こうしたツールを評価するセキュリティチームは、ユーザーがサインインできるかどうかだけでなく、招待されていないアカウントがレコードを取得・変更できないかも確認する必要があります。 

Webアプリケーションのセキュリティテストは、従業員が作成したソフトウェアが機密情報を扱う前に、こうした不備を見つけるうえで有効です。

調査で記録が確認された組織にとって、より差し迫った問題は、何が公開されていたのか、そして露出した認証情報がまだ使えるのかという点です。アクセスを制限すれば、これ以上の情報漏えいは防げます。しかし、過去の訪問者がコピーを入手したかどうかまでは判断できません。 

悪意のある悪用の証拠がなくても、露出が確認された以上、対象情報の機密性に見合った調査が求められます。

サイバーセキュリティのその他のニュース：Anyday Securityは、AI搭載の無料プラットフォームを公開しました。組織が防御策をテストできるよう、200件を超える実用的なエクスプロイトを生成したと伝えられています。