Railway、不正アクセスで74万ドルのAI不正利用被害

クラウドホスティング事業者のRailwayに侵入した攻撃者が、盗み出した顧客のAPIキーを悪用し、約74万ドル相当のAIサービスの不正利用を行っていたことが分かりました。同社が11月10日付のインシデントレポートで明らかにしました。Railwayは、AIプロバイダーが不正利用分の返金に応じない場合、影響を受けた顧客に対して自社で補償するとしています。

攻撃は10月20日から21日にかけて発生しました。複数のインフラ上の弱点が重なった結果、攻撃者は暗号化された顧客のシークレットにアクセスし、その一部を復号するための認証情報も入手しました。Railwayは、最大10万のワークスペースの環境変数が流出した可能性があると見ています。

同社の調査によると、攻撃者はAIプロバイダーの認証情報を重点的に狙っていました。Railwayは、転売、あるいはAIモデルの蒸留に使う目的だったとみています。ただし、流通経路とされるネットワークや、攻撃の実行者の身元は確認されていません。

攻撃者は複数の弱点を突いて顧客のシークレットに到達

Railwayのインシデントレポートによると、侵入が始まったのは10月20日午前7時28分(UTC)です。攻撃者は、同社のビルド基盤にあった未知の脆弱性を悪用しました。

この欠陥により、ファイルシステムの分離を部分的に突破され、Railwayのビルドサービスが使う内部認証情報が露出しました。

攻撃者はこの認証情報を使って、保存されていたビルド履歴とRailwayの社内ソースコードのコピーを取得しました。さらにコードを調べ、追加の侵入経路を探る中で、誤って設定されていたOpenID Connect(OIDC)の信頼関係を見つけています。

10月21日までに、攻撃者は一時的なクラウド認証情報を入手しました。そのまま社内インフラへ侵入し、顧客の環境変数を復号できる認証情報にもアクセスしています。

Railwayのデータベースログからは、攻撃者がAIプロバイダーのキーを狙って検索していたことが分かります。このほか、クラウド、データベース、決済サービスの認証情報を狙ったクエリも確認されました。

同社が不審な動きを検知したのは10月20日午後1時58分(UTC)です。攻撃者を完全に排除したのは、翌日の午前9時24分(UTC)でした。

Railwayは、悪用された弱点を修正済みだとしています。あわせて、ビルド環境をアクセス制御を強化した専用の一時的な仮想マシンに移行しました。

影響を受けた顧客の規模は

Railwayは、次のような複数の区分で影響があったと確認しています。

  • 最大10万のワークスペース:全ワークスペースの最大1.85%について、環境変数が復号された可能性があります。これは最大限に見積もった流出の可能性であり、被害が確認された件数ではありません。
  • 1,852ユーザー:GitHubのOAuthトークンや、持ち込み(BYOK)のAIエージェント用認証情報を含む連携アカウントのトークンが、復号されたことを確認しました。Railwayはトークンをリセットし、影響を受けたユーザーに通知しています。
  • 353件のビルド履歴:攻撃者は、ビルド関連の情報やシークレットを含む保存済みのビルド履歴にアクセスしました。
  • 74万ドル:侵害された認証情報に関連するAI不正利用額について、Railwayが見積もった金額です。

顧客のGitリポジトリがダウンロードされた形跡や、顧客のデータベースにアクセスされた形跡は見つかっていません。また、今回のインシデントで盗まれた認証情報を使ったRailwayアカウントへのログインも確認されていないということです。

今回の侵害は、開発者向けプラットフォームを狙った他の攻撃と似ています。10月にはZeaburの侵害で数百万件の環境変数レコードが流出し、ホスティング型の開発基盤に保管されたシークレットへの懸念が高まりました。

盗まれたAI認証情報で不正利用が発生

Railwayは、攻撃者が商用AIモデルへのアクセスを中継・転売するサービスを通じて流通させる目的で、AIキーを狙ったとみています。

こうした行為は「LLMjacking」と呼ばれることが多く、盗んだAPI認証情報を使って、アカウント所有者の許可なく有料のAIサービスを利用するものです。

Railwayの調査では、コーディングエージェントやAIの学習に関連するワークロードによる不正なリクエストが確認されました。同社は、一部の認証情報がモデル蒸留に使われた可能性があるとみています。モデル蒸留とは、あるモデルの出力を別のモデルの学習に役立てる手法です。

ただし、疑われる流通サービスの運営者は特定できていません。元の攻撃者がそれらを支配していたかどうかも確認されていません。

同様の認証情報窃取のリスクは、LiteLLMのサプライチェーン攻撃でも表面化しました。この攻撃では、トークンや機密性の高いインフラ情報を盗むよう細工された悪意あるパッケージが使われました。

Railway、返金方針を転換

Railwayは当初、10月26日の時点で、侵害されたAPIキー経由で発生した料金は返金できないと被害顧客に伝えていました。

しかし11月10日のレポートでは、方針が変わりました。AIプロバイダーとの間で返金の調整を進め、プロバイダーが返金を拒否した場合は、トークン関連の損失を同社が負担するとしています。

同社が公表した対応は次のとおりです。

  • AWS BedrockとGoogle Gemini:既存の不正対応ポリシーに基づき、返金手続きが始まっています。
  • OpenAI:顧客がサポートケースを開き、そのケースIDをRailwayに提出することで、連携して審査を進めます。
  • Anthropic:プロバイダーとの協議が続く間、Railwayが対象の料金を負担します。
  • OpenRouter:同プロバイダーが返金なしの方針を維持しているため、Railwayが損失を負担します。
  • SpaceXSI:連携したサポートを通じて、請求を個別に審査しています。

Railwayは顧客に対し、不正な請求があれば報告するよう求めています。ただし、今回の発表だけでは、影響を受けたすべての顧客に返金が行われたかどうかは分かりません。

Railway侵害を受けてセキュリティチームが取るべき対応

Railwayは顧客に対し、10月21日より前にプラットフォームへ保存した機密性の高い認証情報を、不審な動きが確認されていなくても、失効させて新しいものに置き換えるよう勧めています。

推奨される対応は次のとおりです。

  1. 流出の恐れがある認証情報をローテーションする。侵害された可能性のあるAPIキーを発行元で失効させ、それを使うアプリケーション側も新しいキーに差し替えます。
  2. 利用状況と請求を確認する。AIプロバイダーのログを調べ、想定外のリクエストや見覚えのないワークロード、不正な課金がないか確認します。
  3. 連携アカウントを監査する。GitHub、クラウドサービス、コンテナレジストリ、データベースのアクセスログに不審な動きがないか点検します。
  4. 権限を絞り込む。対応しているサービスでは、権限を限定した認証情報を使い、ワークロードごとにキーを分けます。
  5. 利用制限を設定する。プロバイダーが提供している場合は、APIのクォータや支出上限、異常検知アラートを設定します。
  6. 不正な請求を報告する。請求の証拠を保全し、RailwayおよびAIプロバイダーに申請します。

古いキーについては、アプリケーションの設定から削除しただけでなく、実際に失効させたことも確認すべきです。

AIを悪用した認証情報窃取に関する調査では、攻撃者が自動化ツールを使い、クラウドやAIサービス上で露出した認証情報を見つけ出して有効性を検証している実態が報告されています。

Railwayは、シークレットの保管を強化し、復号の権限を制限したほか、暗号化・復号の操作を一元的に記録するログを導入したとしています。

同社はこのインシデントをFBIのインターネット犯罪苦情センター(IC3)にも報告しており、外部のフォレンジック調査会社と調査を続けています。

攻撃者の身元や、盗まれた認証情報の最終的な行き先は、調査でも特定されていません。Railwayは、捜査当局の承認を得たうえで、追加の侵害指標(IoC)を公開する方針です。

影響を受けた組織は、Railwayがインフラ側の対策を終えた後も、認証情報のローテーションとプロバイダー側での請求確認を続ける必要があります。盗まれたAPIキーは、無効化されるまで外部サービスの認可に使われ続ける恐れがあるためです。

関連記事:Fireworks AIで2度目の侵害、Notion AIのチャット記録が流出。クラウドインフラの侵害による影響は、下流の顧客にまで及んでいます。

翻訳元: https://www.esecurityplanet.com/cybersecurity/news-railway-breach-ai-api-keys-fraud-charges/

本記事は esecurityplanet.com の記事を翻訳・要約したものです。