研究者ら、ニューラルネットワークに暗号化AIバックドアを構築
コンピュータサイエンスの研究者らがこのほど、人工ニューラルネットワーク内に休眠状態の機能を隠す新たな手法を実証しました。モデルの重みに無制限にアクセスできる監査担当者であっても、標準的なテストでは隠された機能を作動させることができません。具体的には、ホストとなるモデルの内部に、第2のニューラルネッ
タグ: 安全性評価
Anthropic、低価格モデルで隠れた命令への耐性を大幅に強化
Anthropicの「Claude Haiku 5.5」は、素早い処理が求められる反復的なワークロードや速度重視のタスク向けに設計されたモデルです。前世代と比べて、脆弱性の発見やエクスプロイトの作成が上手になりました。同社は、Haiku 4.5よりも厳格なサイバーセキュリティ上の保護措置を適用していま
OpenAIが外部AI安全研究フェローシップの応募受付を開始
OpenAIは、先進的なAIシステムに関連する安全性とアライメントの問題に取り組む外部研究者に資金を提供するための有給フェローシップ制度の応募受付を開始しました。OpenAI Safety Fellowshipと呼ばれるこのプログラムは、2026年9月14日から2027年2月5日まで実施されます。応
医療チャットボットがAIガバナンス分析担当者に不安を抱かせる
AIチャットボットが人々にピザに接着剤を加えるよう伝えれば、誤りは明白だ。だが、...