70社超のサイバーセキュリティ企業が支持する新たなAI安全憲章
70社を超えるサイバーセキュリティ関連組織が新たな憲章に署名し、サイバーセキュリティ目的でのAI利用における責任ある姿勢を誓約しました。 このAI憲章は、サイバー業界団体のCRESTが7月9日に発表したもので、AIを活用したサイバーセキュリティ活動に関する9つの原則を軸に構築されています。これらの原則は3月に初めて公表
タグ: AI安全
AI赤チームエージェントがLLMテスト方法を変える
LLMの敵対的プロービングは過去3年間で広範なツールキットを蓄積してきました。Tree of Attacks with Pruning、Crescendo、Skeleton Keyなどの名前を持つ攻撃技術は、MicrosoftのPyRIT、NVIDIAのGarak、Promptfooを含むオープンソースフレームワーク
AIチャットボットと信頼
主流のAIチャットボットはすべてお世辞好きであり、それが問題です： 参加者は、お世辞好きなAIの回答を、バランスの取れた回答よりも信頼できると評価しました。また、彼らはお世辞好きなAIに将来のアドバイスを求めに戻る可能性が高いと述べました。そして重要なことに、彼らはお世辞好きな回答と客観的な回答の違いを区別で
OpenAIが外部AI安全研究フェローシップの応募受付を開始
OpenAIは、先進的なAIシステムに関連する安全性とアライメントの問題に取り組む外部研究者に資金を提供するための有給フェローシップ制度の応募受付を開始しました。OpenAI Safety Fellowshipと呼ばれるこのプログラムは、2026年9月14日から2027年2月5日まで実施されます。応
AI安全サミット：バイデン＝ハリス政権、米国AI安全研究所を設立
米国商務省は、AIの安全性と信頼に関する米国政府の取り組みを主導する新たな政府機...
英国AI安全研究所：AIの未来に向けた青写真？
英国フロンティアAIタスクフォースは、2023年4月に「ファウンデーションモデル...