OpenAIが認める――GPT-5.6は時々ファイルを削除するが「悪意のない過失」
AIとML データ消失は、新興企業が回避に取り組む「意図せぬ不整合な挙動」の一例とされている Ope
タグ: AI安全性
フロンティアAI:魔神は瓶から出た、しかしルールブックはどこに?
フロンティア人工知能(AI)モデルの能力が高まり、予測不能性も増す中、3つの州が新たな情報開示法によってその抑制に乗り出しています。イリノイ州のJBプリツカー知事は最近、上院法案315号(SB315)、通称「人工知能安全対策法」に署名しました。これは、年間収益が5億ドルを超えるフロンティアAIモデルに対する報告義務を強
コーディングエージェントは、チャットでは「ノー」と答えてもコードでは「イエス」になる
数百万人の開発者がGitHub Copilotと作業を共にしています。Visual Studio Code内でこのツールはファイルを開き、コードを書いたり編集したりし、スクリプトを実行し、何度もやり取りを重ねながら自らの出力を作り直します。しかし、こうしたエージェントを検証する安全性テストは、いまだに
Claude Fable 5、サイバー安全性審査を経て有料プラン向けアクセスを延長
Anthropicは、Claude Fable 5へのプロモーションアクセスをすべての有料サブスクリプションプランで2026年7月12日午後11時59分59秒（PT）まで延長し、Pro、Max、Team、および対象となるEnterpriseシート利用者に対し、追加費用なしで同モデルを利用できる期間をさらに設けました。
xAI・Grokを巡るディープフェイクCSAM訴訟、対象が拡大
X.ai社のGrokツールを巡る集団訴訟に、新たに2件の当事者が加わりました。家族や知人によってGrokを悪用され、実在の未成年者を素材とした非同意のディープフェイク児童性的虐待素材(CSAM)を作成されたと訴える10代・子どもたちです。 この訴訟はもともと3月に3人の女性によって提起されたものですが、今週修正され、
米国、Anthropic社の「Fable」「Mythos」に対する輸出規制を解除へ
Anthropic社は、Fable 5およびMythos 5モデルについて、ジェイルブレイク対策を目的とした新たなガードレールと分類器を備えた形で商務省と合意に達したことを受け、両モデルを再び一般提供すると発表しました。 Anthropic社は火曜日に投稿したブログで、海外企業や個人への販売を妨げていた輸出規制が、ホ
Claude Sonnet 5、危険なサイバー用途への安全対策を搭載
Anthropicは、汎用AIモデルの最新版となるClaude Sonnet 5を発表しました。推論、コーディング、ツール利用、知的作業の各能力が向上しており、計画の立案やブラウザ・ターミナルなどのツールの利用を通じて、タスクを自律的に完了できます。 Sonnet 5をSonnet 4.6およびOp
セキュリティ研究者、ロールモデルを悪用したプロンプトインジェクションでLLMからコカイン製造レシピを引き出すことに成功
AI + ML LLMセキュリティの未来を一言で表すなら、「もぐら叩き」と「恋はデジャ・ブ」が合わさったようなものです
AIエージェントが研究所自身のコードを書くとき、監視はどうなるか
フロンティアAIを開発する研究所では、コーディング作業の多くをAI自身が担うようになっています。こうしたエージェントは、各ステップ間で人間の監視をほとんど受けずにソフトウェアを作成・編集・実行し、本番インフラや研究パイプライン、さらには将来のモデルを訓練・評価するシステムにまでアクセスすることがありま
国家安全保障命令を受け、Anthropicが高度セキュリティモデルへのアクセスを停止
前例なき緊急介入 Anthropicはかねてより厳格なAI安全プロトコルと政府による監督の重要性を訴えてきました。しかし本日、この有力AIスタートアップは新たに公開したモデルへのアクセスを完全に停止すると突如発表しました。今回の即時制限は、一般向けの「Fable 5」フレームワークおよびプレミアム
すべての記事を読み込みました