自動化されたLLMレッドティーミングに学習層が追加される
大規模言語モデルの自動化されたレッドティーミングは、過去2年間で親しみのあるパターンで安定している。攻撃者モデルはターゲットモデルに対するジェイルブレイク試行を生成し、評価者が結果をスコア付けし、サイクルが繰り返される。 2つのアプローチが支配的である。1つは攻撃者に試行錯誤を通じて戦略を発明するよ
タグ: AI研究
AI研究者がサムスンテレビのセキュリティを破壊、書き込み可能なドライバーを通じてroot権限を獲得
本レポートでは、AI支援の研究者がどのように書き込み可能なドライバーインターフェースを悪用して、サムスンスマートテレビのブラウザーの足がかりからroot権限へ昇格させたかについて説明しています。 この研究は、ベンダードライバーの小さな誤りが、攻撃者がソースレビュー、ライブテスト、および慎重な権限昇格を組み合わせること
HackerOne、「善意」のAI研究を支援するための業界フレームワークを展開
4年前、司法省はコンピュータ不正・濫用防止法（Computer Fraud an...
2026会計年度の司法・商務歳出法案でサイバー予算は横ばい
新たな資金合意の下、2026会計年度を通じて主要機関における連邦サイバーセキュリ...
研究者たちが詩を使ってAIモデルの脱獄を実現
「AIの未来」が始まって3年、研究者たちの創造的な脱獄手法は常に驚かされるもので...
脆弱性により35億件のWhatsAppアカウントがスクレイピング可能に
オーストリア・ウィーン大学の研究チームが、35億件のWhatsAppアカウントを...
Anthropic「LLMを意味不明な出力に誘導するのは驚くほど簡単」
Anthropicの調査によれば、AIモデルのポイズニング（毒付け）はこれまで考...
ChatGPTのGPT-5-reasoning-alphaモデル、正式リリース前に発見される
GPT-5は、数日から数週間以内に登場する可能性があり、「gpt-5-reaso...