タグ: AI Safety Guardrails

securityweek.com 2025年10月25日 20:39

OpenAI Atlasオムニボックスはジェイルブレイクに脆弱

OpenAI Atlasのオムニボックスは、プロンプト指示を訪問するURLとして...

securityweek.com 2025年9月30日 20:56

カリフォルニア州知事ギャビン・ニューサム、AI安全対策法案に署名

カリフォルニア州知事ギャビン・ニューサムは月曜日、強力な人工知能モデルが生物兵器...

cyberscoop.com 2025年9月27日 05:34

国連、「安全・安心・信頼できる」AI構築に向け合意形成を目指す

国際連合は、人工知能（AI）に関する世界的な政策への影響力をより直接的に強めるた...

securityweek.com 2025年8月20日 23:54

GPT-5には脆弱性がある：ルーターが古くて安全性の低いモデルに誘導する可能性

GPT-5には脆弱性がある：あなたの問いに答えているのはGPT-5ではないかもし...

csoonline.com 2025年8月12日 21:05

GPT-5、リリースから数時間で「エコーチェンバー」とストーリーテリングの手法によって脱獄

NeuralTrustによると、GPT-5はリリースから数時間以内に、「エコーチ...

infosecurity-magazine.com 2025年8月6日 23:46

#BHUSA: OpenAIが新しいオープンウェイトLLM向けにレッドチーミングチャレンジを開始

OpenAIは、2つの新しいオープンウェイト大規模言語モデルと、賞金総額50万ド...

infosecurity-magazine.com 2025年8月1日 17:33

英国、1,500万ポンドのAIアライメントプロジェクトを主導

英国のAIセキュリティ研究所は、国際的なパートナーと協力し、AIアライメントの研...

infosecurity-magazine.com 2025年7月15日 00:45

Grok-4、リリースから2日で複合攻撃により脱獄

公開からわずか48時間で、Grok-4は新たに強化された攻撃手法によって脱獄され...

csoonline.com 2025年7月14日 20:58

新しいGrok-4 AI、48時間以内に「ささやき型」ジェイルブレイクで突破される

ローンチからわずか数日後、イーロン・マスクのGrok-4が、Echo Chamb...