機械学習セキュリティ – TokyoBlackHatNews

Androidマルウェア検出は文脈判定の段階を欠くと精度が崩壊する

電話のバックアップアプリはストレージ、連絡先、SMS、通話履歴へのアクセスを要求します。デバイス管理ツールはそれ以上の権限を求めます。どちらも機械学習ベースのマルウェアスキャナーにかければ、フラグが立って返ってきます。 Drebin、MalScan、MaskDroidを含む、広く研究に用いられているA

News 2026年7月22日 23:56

OpenAI:自社モデルがサイバー能力テスト中にHugging Faceに侵入したことを認める

先日発生したHugging Faceへの侵害は、複数のOpenAIモデルによるものだったと、AI研究企業のOpenAIがブログ投稿で明らかにしました。侵害の内容先週後半、機械学習モデルやデータセットを共有できるプラットフォーム、Hugging Faceを運営する同社は、社内データセットの一部に不

cyberpress.org 2026年7月21日 17:35

Agentic型ハッカーがLangflowのRCE脆弱性を悪用、AI・機械学習インフラを暗号化

Agentic型ランサムウェア攻撃グループのJADEPUFFERは、これまでのデータベース恐喝から、AI・機械学習インフラを狙う標的型キャンペーンへと活動を進化させています。攻撃者はLangflowのリモートコード実行(RCE)脆弱性CVE-2025-3248を悪用し、独自開発のランサムウェアツール「ENCFORG

techradar.com 2026年7月21日 01:13

「これまで対応してきたどのケースとも違っていた」――Hugging Faceがサイバー攻撃を受けたことを確認…

Hugging Faceは、データセットに隠された悪意あるコードが自社システムの脆弱性を突き、権限昇格と認証情報の窃取を招いたサイバー攻撃を公表しましたこの事件は、自律型AIエージェントによって一貫して主導されていた点で異例であり、同エージェントは短命なサンドボックスを何千も次々と立ち上げ、C2インフラを公開サービ

bleepingcomputer.com 2026年7月20日 21:09

Hugging Face、自律型AIエージェントに絡む情報漏えいを公表

人工知能リポジトリを運営するHugging Faceは、自律型AIエージェントシステムを用いた攻撃者に本番環境インフラを侵害され、内部データセットと認証情報にアクセスされたことを明らかにしました。 Hugging Faceは、主要AIプロバイダーが提供する45,000件以上のモデルへのアクセスを提供するオープンソース

gbhackers.com 2026年7月20日 13:45

Hugging Faceでセキュリティ侵害、内部データセットや認証情報・トークンが流出

Hugging Faceは、自社の本番インフラの一部に対する不正アクセスを伴うセキュリティインシデントを公表しました。限定された範囲の内部データセットと複数のサービス認証情報が影響を受けたとしています。このAIプラットフォームは2026年7月16日にこの件を公表し、パートナーや顧客のデータが漏洩したかどうかについて

gbhackers.com 2026年7月16日 21:51

新フレームワーク、AIペネトレーションテストを「プロンプトインジェクション」と「行動目標違反」の観点から再定義

新たに提唱されたフレームワークは、AIペネトレーションテストが従来型のインフラ侵害の測定にとどまらず、攻撃者がAI搭載システムを本来の運用目的に反する形で動作させられるかどうかを評価すべきだと主張しています。従来のペネトレーションテストでは、不正アクセス、権限昇格、データ窃取、サービス妨害、持続的侵入といった結果を

meterpreter.org 2026年6月18日 18:22

Google Vertex AI Python SDKで発覚した脆弱性

クラウド機械学習プラットフォームは、わずか数行のコードの背後に複雑なインフラを隠していることがよくあります。しかし、この便利な自動化機能が、Google Vertex AI Python SDKに深刻な脆弱性を生み出してしまいました。Palo Alto NetworksのUnit 42の専門家がこ

gbhackers.com 2026年6月17日 20:37

Google Cloud Vertex AIの脆弱性、攻撃者によるAIモデルの乗っ取りとポイズニングを可能に

Google CloudのVertex AIに重大な脆弱性が発見されました。この脆弱性を悪用すると、攻撃者は被害者の環境への事前アクセスなしに、機械学習モデルのアップロードを乗っ取り、アーティファクトへの毒入れ（ポイズニング）、さらにはクロステナントのリモートコード実行（RCE）まで達成できます。この脆弱性は、Pa

cyberpress.org 2026年6月5日 20:11

Hugging Face Transformersの重大な脆弱性、リモートコード実行を可能に

Hugging Face Transformersライブラリに重大な脆弱性が発見され、数百万人にのぼる機械学習エンジニアや企業のAIパイプラインが、trust_remote_code=Trueを設定することなく静かにリモートコードを実行される危険にさらされていたことが明らかになりました。 CVE-2026-4372（