研究者がHugging Faceの人気AI音声モデル「Kokoro」のアカウントを乗っ取り – TokyoBlackHatNews       [コンテンツへスキップ](#main-content) [ ![](https://blackhatnews.tokyo/wp-content/themes/blackhatnews/assets/img/bhn-logo.svg) TokyoBlackHatNews ](https://blackhatnews.tokyo/)

   検索

広告

    bleepingcomputer.com 2026年11月18日 4分で読了   リンクをコピー

# 研究者がHugging Faceの人気AI音声モデル「Kokoro」のアカウントを乗っ取り

Hugging Faceプラットフォームに所有権の検証機能がないため、研究者がテキスト読み上げモデル「Kokoro」の管理権限を奪取できることが明らかになりました。Kokoroは、Google、NVIDIA、AMD、Intel、Amazon Web Servicesのプロジェクトで使われています。

アカウントを乗っ取った攻撃者は、これをサプライチェーン攻撃の配布経路として悪用し、データ窃取やコード実行につなげる恐れがあります。

研究者らは、さらに発見されにくい攻撃も実証しました。モデルの重みを改変し、アプリケーションのコードには手を加えないまま、入力テキストとは異なる音声を出力させたのです。

変更されるのは重みだけで、悪意あるコードやシグネチャは存在しません。そのため、マルウェアスキャナーでは検出できないと研究者らは説明しています。

セキュリティアナリストの[Alon Hertz](https://www.linkedin.com/in/alon-hertz/)氏は、次のように述べています。「ニューラルネットワークの重みをファインチューニングすることで、このモデルの発話内容を変えました。入力テキスト、音声ファイル、設定、推論コードはすべて同じです。モデルを動かすアプリケーション側は、1行も変更していません」

[Kokoro](https://huggingface.co/hexgrad/Kokoro-82M)は、テキストを音声に変換するオープンウェイトのモデルです。複数の言語に対応し、50種類以上の音声プリセットを備えています。

開発元のHexgradは2025年4月以降、更新を公開していません。それでもプロジェクトの人気は衰えず、Hugging Face上の月間ダウンロード数は約1,300万件に達しています。[GitHubリポジトリ](http://github.com/hexgrad/kokoro)と[PyPIのPythonパッケージ](http://pypi.org/project/kokoro/#files)も、同じ時期から更新が途絶えています。

Kokoroは、Google、NVIDIA、Intelの開発者向けツールが対応しており、音声エージェントやオンデバイスの音声合成用ソフトウェアなどに組み込まれています。AMDとAmazon Web Servicesも、AIエージェントのワークフローでの活用方法を紹介するガイドを公開しています。

Hertz氏らのチームは、元の所有者が使っていたドメインを取得し、ログインパスワードをリセットするだけで、Hugging Face上のKokoroアカウントを乗っ取りました。

研究者らは先週末、Kokoroの[公開DONATE.mdファイル](https://huggingface.co/hexgrad/Kokoro-82M/blob/main/DONATE.md)に記載されていた「hexgrad.com」ドメインを登録しました。そして、このドメインを使って、パブリッシャーのアカウントのパスワードをリセットしました。

続いて、管理された環境でテストを実施しました。ゲーミング向けGPUを使い、87秒でKokoroのモデルの重みを改変し、汚染された出力を生成させることに成功しています。

[Hertz氏によると](http://medium.com/@alonhertz1/one-click-from-180-million-downloads-taking-over-the-hugging-face-account-behind-an-ai-model-ac61c16305b7)、チームは改変したKokoroモデルを通常の推論パイプラインでローカル環境にてテストしましたが、改変した重みをHugging Faceにアップロードすることはありませんでした。このモデルに依存する多くの本番システムを危険にさらす恐れがあるためです。

同氏は、別のアカウントからのテストで、Hugging Faceが不審な点を一切指摘しないことも確認したと指摘しています。このため、悪意ある更新であっても、正規のリリースと見分けがつかないといいます。

アカウントを乗っ取られても、パブリッシャーの表示、ファイルの配信経路、フォーマット、アーキテクチャはそのままです。ファイルサイズも同程度で、リリースにマルウェアは含まれません。

### より広範な信頼の問題

研究者は、乗っ取られたパブリッシャーのアカウントを通じて、改変された重みが日常的な更新として配布されるサプライチェーンリスクは深刻だと指摘しています。新しいリビジョンを自動的に取得するシステムが影響を受けるためです。

Kokoroは、この問題を示すためにチームが選んだ知名度の高い一例にすぎません。

Hertz氏は、乗っ取られていないアカウントにもリスクがあると述べています。誰でも一定期間は正規に見えるモデルを公開し続け、ある時点で悪意ある更新を配布できるためです。

Hertz氏は次のように述べています。「Hugging Faceはパブリッシャーを審査していません。アカウントが今も本来の正当な所有者のものなのか、先週ひそかに乗っ取った人物のものなのかも確認していません。アカウントがアップロードするモデルやデータセットも審査していません」

同氏はさらに、「審査を経ていない同じ重みやデータセットが、ミラーや変換版、GitHubのリリース、パッケージレジストリ、導入ガイド、直接ダウンロードを通じて、オープンモデルのエコシステム全体に流通しています」と付け加えました。

Hertz氏はこの問題をHugging Faceに報告し、迅速な対応を期待しましたが、返答はありませんでした。

BleepingComputerもHugging Faceにコメントを求めましたが、現時点で回答は得られていません。

翻訳元: <https://www.bleepingcomputer.com/news/security/researchers-hijack-hugging-face-account-for-popular-kokoro-ai-model/>

### 共有:

- [ Facebook で共有 (新しいウィンドウで開きます) Facebook](https://blackhatnews.tokyo/archives/159585?share=facebook)
- [ X で共有 (新しいウィンドウで開きます) X](https://blackhatnews.tokyo/archives/159585?share=x)
- [ 印刷 (新しいウィンドウで開きます) 印刷](https://blackhatnews.tokyo/archives/159585#print?share=print)
- [ 友達にメールでリンクを送信 (新しいウィンドウで開きます) メールアドレス](mailto:?subject=%5B%E5%85%B1%E6%9C%89%E6%8A%95%E7%A8%BF%5D%20%E7%A0%94%E7%A9%B6%E8%80%85%E3%81%8CHugging%20Face%E3%81%AE%E4%BA%BA%E6%B0%97AI%E9%9F%B3%E5%A3%B0%E3%83%A2%E3%83%87%E3%83%AB%E3%80%8CKokoro%E3%80%8D%E3%81%AE%E3%82%A2%E3%82%AB%E3%82%A6%E3%83%B3%E3%83%88%E3%82%92%E4%B9%97%E3%81%A3%E5%8F%96%E3%82%8A&body=https%3A%2F%2Fblackhatnews.tokyo%2Farchives%2F159585&share=email)
- [ Reddit で共有 (新しいウィンドウで開きます) Reddit](https://blackhatnews.tokyo/archives/159585?share=reddit)
- [ Telegram で共有 (新しいウィンドウで開きます) Telegram](https://blackhatnews.tokyo/archives/159585?share=telegram)
- [ Threads で共有 (新しいウィンドウで開きます) Threads](https://blackhatnews.tokyo/archives/159585?share=threads)
- [ Mastodon で共有 (新しいウィンドウで開きます) Mastodon](https://blackhatnews.tokyo/archives/159585?share=mastodon)
- [ Bluesky で共有 (新しいウィンドウで開きます) Bluesky](https://blackhatnews.tokyo/archives/159585?share=bluesky)
-

### *関連*

 本記事は [bleepingcomputer.com](https://www.bleepingcomputer.com/news/security/researchers-hijack-hugging-face-account-for-popular-kokoro-ai-model/) の記事を翻訳・要約したものです。

 [\#AIモデル](https://blackhatnews.tokyo/archives/tag/ai%e3%83%a2%e3%83%87%e3%83%ab) [\#Hugging Face](https://blackhatnews.tokyo/archives/tag/hugging-face) [\#Kokoro](https://blackhatnews.tokyo/archives/tag/kokoro) [\#ML-BOM](https://blackhatnews.tokyo/archives/tag/ml-bom) [\#アカウント乗っ取り](https://blackhatnews.tokyo/archives/tag/%e3%82%a2%e3%82%ab%e3%82%a6%e3%83%b3%e3%83%88%e4%b9%97%e3%81%a3%e5%8f%96%e3%82%8a) [\#オープンウェイトモデル](https://blackhatnews.tokyo/archives/tag/%e3%82%aa%e3%83%bc%e3%83%97%e3%83%b3%e3%82%a6%e3%82%a7%e3%82%a4%e3%83%88%e3%83%a2%e3%83%87%e3%83%ab) [\#サプライチェーン攻撃](https://blackhatnews.tokyo/archives/tag/%e3%82%b5%e3%83%97%e3%83%a9%e3%82%a4%e3%83%81%e3%82%a7%e3%83%bc%e3%83%b3%e6%94%bb%e6%92%83) [\#ドメイン乗っ取り](https://blackhatnews.tokyo/archives/tag/%e3%83%89%e3%83%a1%e3%82%a4%e3%83%b3%e4%b9%97%e3%81%a3%e5%8f%96%e3%82%8a) [\#モデルの重み改変](https://blackhatnews.tokyo/archives/tag/%e3%83%a2%e3%83%87%e3%83%ab%e3%81%ae%e9%87%8d%e3%81%bf%e6%94%b9%e5%a4%89) [\#音声合成](https://blackhatnews.tokyo/archives/tag/%e9%9f%b3%e5%a3%b0%e5%90%88%e6%88%90)

  広告

## 関連記事

[

### Optimizelyの欠陥で世界的大手ブランドが被害に ― Salesforce、CNN、Fox News、BBCのサイトなど

 ](https://blackhatnews.tokyo/archives/159580)[ ![](https://blackhatnews.tokyo/wp-content/uploads/2026/11/ogp_m9069fdhah2n0bXp6sY-400x225.avif)

### FBI、AIツール「ARTEX」で攻撃者が3時間足らずで特権アクセスを獲得したと警告

 ](https://blackhatnews.tokyo/archives/159576)[

### AIエージェントが新たな標的に、GitHubを悪用したマルウェアキャンペーンの手口

 ](https://blackhatnews.tokyo/archives/159562)

    広告

検索検索

- [大規模なKikデータ漏えい、1億5,000万枚超の画像が流出 ― 人気メッセージングアプリで情報が漏れた可能性、専門家が指摘](https://blackhatnews.tokyo/archives/159588)
- [Google、AIフレームワークが実際の攻撃で脆弱性を自律的に悪用したと報告](https://blackhatnews.tokyo/archives/159586)
- [研究者がHugging Faceの人気AI音声モデル「Kokoro」のアカウントを乗っ取り](https://blackhatnews.tokyo/archives/159585)
- [SpyCloud、2027年のAIとID関連の脅威に警鐘](https://blackhatnews.tokyo/archives/159583)
- [Tor、継続中のDDoS攻撃を受け緊急アップデートを公開](https://blackhatnews.tokyo/archives/159582)

- [helpnetsecurity.com1733](https://blackhatnews.tokyo/archives/category/helpnetsecurity-com)
- [schneier.com88](https://blackhatnews.tokyo/archives/category/schneier-com)
- [welivesecurity.com59](https://blackhatnews.tokyo/archives/category/welivesecurity-com)
- [sophos-news15](https://blackhatnews.tokyo/archives/category/sophos-news)

 広告