研究者らがClaudeを使ってOpenAIをハッキング
OpenAIのAIエージェントが暴走して他社をハッキングしたという話は既にご存じかもしれません。今回はその逆で、あるサイバーセキュリティ企業がAIを使ってChatGPTの運営元であるOpenAI自身をハッキングし、形勢を逆転させてみせました。 このハッキングはセキュリティ研究として実施されたもので、その過程で他の
タグ: プロンプトエンジニアリング
3Mが関わったChatGPT訴訟事案が示すAIガバナンスの課題
企業はこれまで、従業員がAIに何を入力するかを長年懸念してきました。しかしWatson Grinding訴訟は、そうしたやり取りが残す「記録」についても考えるべきだということを示しています。 3Mが関わったWatson G
新手法「PuzzleMask」攻撃、悪意ある指示を平易な英文に隠しAIガードレールを回避
セキュリティ研究者らは、軽量なAI安全フィルターをすり抜ける悪意ある指示の潜伏を可能にするプロンプト難読化技術「PuzzleMask」を公表しました。 この手法は、ポリシー違反となる指示を、一見ごく普通に見える平易な英文の中に隠すというものです。 従来のプロンプト隠蔽手法とは異なり、PuzzleMaskはBase64
盗まれたGemini APIキーが自動化されたTelegramの影響工作に悪用
単独の脅威アクターが盗んだGoogle Gemini APIキーとジェイルブレイクされたAIを駆使し、コンテンツ生成、認証情報の窃取、インフラ運用を大規模に自動化した、長期にわたるTelegramの影響工作・詐欺キャンペーンの実態が明らかになりました。 「bandcampro」として追跡されているロシア語話者のこのオ
GPT-5.5生物セキュリティバグバウンティプログラムはAIの安全性とパフォーマンスを向上させることを目指しています
OpenAIは、新興の生物学的リスクに対する保護を強化するために、GPT-5.5生物セキュリティバグバウンティプログラムを正式に開始しました。 人工知能モデルがより高度になるにつれて、悪意のある行為者が危険な生物学的情報を生成する可能性が増加します。高度なPersistent Threat（APT）と孤立した攻撃者は
OpenAIがChatGPTの新しい「スタディ機能」を正式発表、試験対策にも活用可能
BleepingComputerは以前、OpenAIが新しい「一緒に勉強する（S...
OpenAIの画像モデルがChatGPTにスタイル機能を内蔵
ChatGPTを通じて無料で利用できるOpenAIの画像生成モデルは、トレンドや...