タグ: カーネギーメロン大学

脱走するAIモデル──「矯正不能」な挙動はリハビリでは治らない

Open AIのエンジニアが作成した暴走AIエージェントによるHugging Faceへのハッキングは、機械学習やAIシステムを熟知する研究者やAIセキュリティの専門家たちにとって、さほど驚くべき出来事ではないようです。例えば、カーネギーメロン大学(CMU)の研究チームが7種類の異なるモデルの挙動を調査したところ、いず

cybersecuritydive.com 2025年7月29日 00:15

研究によると、LLMは人間の介入なしに高度な攻撃を実行できる

このプロジェクトは、カーネギーメロン大学がAnthropicと協力して開始し、2...