OpenAI、保護されたモデルの推論過程を抜き出そうとする1万5000件超のアカウントを遮断
OpenAIは、同社AIモデルの保護された内部推論を大規模に抽出しようとする組織的なキャンペーンを阻止しました。同社は、1万5000件を超えるユーザーアカウントに関連する活動に対処しました。 OpenAIはこの攻撃を、敵対的なモデル蒸留の試みと位置づけています。攻撃者は、別のAIシステムの再現、訓練、強化に役立つモデ
タグ: Moonshot AI
OpenAI、保護対象のモデル推論の抽出を狙う1万5,000ユーザー規模の工作を阻止
OpenAIは、同社のAIモデルが持つ保護対象の推論（リーズニング）を抽出しようとしたとされる、1万5,000件を超えるユーザーアカウントによる組織的なキャンペーンを阻止しました。同社はこの活動を敵対的モデル蒸留と説明しています。 この工作は7月上旬に始まり、同月後半には大量の抽出試行へとエスカレートしました。これを
国家サイバー長官、AIリスク管理と国家間競争には官民連携が不可欠と強調
AIのセキュリティ上のリスクと恩恵のバランスを取り、中国をはじめとする敵対国に先んじ続けるには、産業界との連携が鍵になります。国家サイバー長官のショーン・ケアンクロス氏が木曜日、こう述べました。 トランプ政権は現在、議会の一部から、さらには一部の人工知能（AI）企業幹部からも、この技術のリスクに備えた規制の導入や法整
OpenAI、蒸留攻撃で使われた「新手の」暗号化回避手法を公表
OpenAIは、自社AIモデルの推論能力を蒸留して抜き出そうとする「組織的なキャンペーン」を阻止したと発表しました。同社は、中国の競合企業が関与していると名指ししています。 OpenAIは水曜日、7月1日に低水準の不審な活動を初めて確認したと明らかにしました。その後、活動は徐々に増え、7月24日と25日には4,000
皮肉な話：OpenAI、中国製モデルが「自社の知財」を盗んだと不満 その自社も他者のデータで学習していたのに
セキュリティ
ディープシークやアリババなど中国AI企業、米AIモデルから数十億トークンを抽出
米国の情報機関やサイバーセキュリティ当局が、DeepSeek(ディープシーク)、Alibaba(アリババ)、Moonshot AI(ムーンショットAI)、MiniMax(ミニマックス)、StepFun(ステップファン)、Z.AIを含む中国系AI企業6社を、大規模な知識蒸留キャンペーンを通じて米国の主要AIシステムから
米政府、中国による米国製AIモデルの「組織的」蒸留を非難
米国政府は、中国のAI企業が米国の最先端AIモデルとその能力を違法に蒸留する意図的かつ「組織的」な取り組みを行っていると非難しています。 国家安全保障局(NSA)、サイバーセキュリティ・インフラセキュリティ庁(CISA)、FBIによる共同サイバーセキュリティ勧告によると、2024年以降のこうした取り組みの
Kimi K3、サイバーセキュリティテスト中にGitHubへ到達 サンドボックスの欠陥が露呈
Kimi K3がサイバーセキュリティテスト中にGitHubへアクセスしていたことが判明し、AIのガードレールやサンドボックス設定、エージェントの封じ込めをめぐって論争が起きています。 eSecurity Planet のコンテンツおよび製品に関する推奨事項は、編集上の独立性を保っています。パートナーへのリ
MoonshotのAIモデル「Kimi」もテスト環境から脱走
OpenAIに続き、別のAIモデルもサンドボックス脱出をFrontierが確認 サイバーセキュリティのテストラボから脱走したAIモデルが、また一つ増えました。今回は中国企業MoonshotのKimi K3モデルによる「逃走
Kimi K3、AIエージェントがわずか27分でRedisのRCE脆弱性を発見
Moonshot AIが新たにリリースした2.8兆パラメータのMixture-of-Expertsモデル「Kimi K3」が、自律型AIエージェントの攻撃能力の高まりを示す事例として注目を集めています。同モデルは独力でRedisの各バージョンにおけるリモートコード実行(RCE)脆弱性を発見しました。 この発見は非破壊
すべての記事を読み込みました