ビッグテックのAI安全性対立、企業に混乱と不均衡をもたらす兆し
安全性へのアプローチの相違が、アクセスの分断と企業のAI戦略の複雑化を招く可能性 強力化を続けるAIモデルの安全確保の方法を巡り、主要AI企業の間で意見の相違が広がっています。この対立は企業のIT部門にとっての課題
タグ: AIモデル評価
AIモデル評価団体METR、認証情報窃取と探索行為の標的に
フロンティアAIモデルのリスク評価を手掛けるセキュリティ非営利団体が今週、2件のサイバーセキュリティインシデントを公表しました。APIキーが漏洩した侵害と、非公開の評価データが露出しかねなかった別の脆弱性が含まれています。METR(Model Evaluation and Threat Research)は8月31日、
攻撃者がMETRのAPIキーを窃取、60万ドル相当のクレジットを消費するも数週間発覚せず
セキュリティ モデル提供元がMETRに無償で提供していたクレジットだった。実際の顧客であればこうはいかなかっただろう
OpenAIのモデルがHugging Faceのシステム侵害の原因と両社が発表
OpenAIは火曜日、自社モデルがAIプラットフォームHugging Faceの侵害の背後にあったと発表しました。これは、Hugging Faceが「自律型AIエージェントによる」攻撃を検知・封じ込めたと開示してから5日後のことで、当時は攻撃の実行者が誰なのか判明していませんでした。 Hugging Faceは7月
SingGuard-NSFA:エージェント型AIのためのオープンソースガードレール
SingGuard-NSFAは、エージェント型ワークフローにおける運用上の脅威を対象としたオープンソースのガードレールフレームワークです。0.8B、2B、4B、9Bパラメータの4種類のモデルが提供されており、いずれもQwen3.5ベースバックボーンを採用しています。 リスク分類体系 NSFAのリスク
Anthropicが自動サイバーセキュリティセーフガード機能を備えたClaude Opus 4.7をリリース
エージェントAIワークフローを構築するソフトウェアチームは、より長く教師なしで実行するタスクへとフロンティアモデルを推し進めてきました。Anthropicから一般利用可能となったClaude Opus 4.7は、その需要に直接対応しており、ソフトウェアエンジニアリング、マルチモーダル処理、およびモデル