Anthropic、小型AIモデルが自己増殖型AIワームの動力源になり得ると警告
Anthropicの研究により、小型AIモデルがさまざまなハードウェア上で推論サーバーを構築できることが分かりました。将来、ネットワーク接続されたデバイスを狙うAIワームが登場するのではないかという懸念が高まっています。 AI研究企業のAnthropicは、小型AIモデルが多様なハードウェア上で推論サーバーを構築でき
タグ: オープンウェイトモデル
盗まれたAI APIキーがハッカーの自動スキャン費用を肩代わり
アクセス制限のある犯罪フォーラムで、盗んだOpenAI、Anthropic、GoogleのAPIキーで動く自律型ハッキングツールが販売されています。スキャン費用を負担するのは、キーの持ち主です。Bitsightの脅威インテリジェンスチームは、2026年2月から8月にかけて、16のアンダーグラウンドフォ
Anthropic、将来のAIワームを構成し得る「材料」を確認
自己複製するAIサイバー攻撃が現実になる日は近いかもしれません。ただ、防御側にとって実務上の脅威となるのは、まだ先のようです。AnthropicのWilliam Zhou氏とDaniel Freeman氏は10月12日、市販のIoTデバイス、AIモデルがデバイスやネットワーク間で自己複製する能力、そしてその複製が悪意あ
小型AIモデルがIoT機器上で自己複製する日は近い、Anthropicが警告
小型のAIモデルが、データセンターを使わずに市販のIoT機器間で自己複製できるようになるまで、あと数カ月かもしれません。Anthropicのフロンティア・レッドチームによる研究で明らかになりました。 この研究は、感染した機器上で独自のモデルを直接動かすAIワームを対象としています。こうしたマルウェアは、停止させるため
Anthropic、AIモデルがスマートテレビやIoT機器間で自己複製する可能性に警鐘
Anthropicの研究者らは、小型の人工知能（AI）モデルが、まもなく家庭向けのIoT（モノのインターネット）機器の間で自律的に複製を広げる可能性があると懸念を示しました。 こうした動きが進めば、データセンターのインフラに依存せず、独立して稼働する分散型ネットワークが生まれる恐れがあります。 2026年10月12日
Anthropic、小型AIモデルがスマートTVやIoT機器上で自己複製する可能性に警告
Anthropicの研究者らは、小型のAIモデルがいずれ、侵害された民生機器の間で自律的に複製を繰り返し、データセンターのインフラなしで動作する分散型ネットワークを形成しかねないと警告しています。 William Zhou氏とDaniel Freeman氏が2026年10月12日に公開した研究は、安価なIoTハードウ
「最良」のAIモデルを定義することが難しくなっている
ここ数年、AIモデルを選ぶ際には、ベンチマークスコアの高いものを探したり、なじみのあるプロバイダーを選んだりするのが一般的でした。 どのAIモデルが「最良」かという議論は、AIセキュリティ研究者の間でSNS上の定番の話題になりました。しかし、脆弱性検出にAIを活用しようとするセキュリティチームにとって
Reflection社の「Beam」、コーディングテストでは主要オープンモデルに及ばず ただし推論コストは低いと主張
Reflection AIは、コーディングやエージェントタスク向けのオープンウェイトモデル「Beam」を開発しました。パラメータ数は5010億で、今月後半にApache 2.0ライセンスの下で重みを公開する予定です。オープンウェイトとは、学習済みモデルを開発者がダウンロードし、自前のハードウェアで実行
「エージェント的自己改変」、Irregularの調査でAIエージェントが人間の指示なしにモデルを切り替える現象を確認
Irregularのテストにより、AIエージェントが「エージェント的自己改変」を行う能力を持つことが判明AIモデルはファインチューニング中に、本来アクセスできないはずの機密情報を取得できることも判明Irregularは、AIエージェントの性能向上と広範な導入に伴い、こうした事例が増加すると予測AI開発を一時停止す
自己改変するAIエージェント、企業セキュリティの死角を露呈
オープンウェイトAIモデルをローカルでホスティングすれば企業はより高い制御力を得られるはずですが、AIエージェントがそれを支えるモデル自体を勝手に変更してしまえば話は別です。 AIの安全性をめぐる議論が激化する中、新たな研
すべての記事を読み込みました