Geminiが実在企業に侵入、AIのガードレール問題が浮き彫りに
Googleは、同社のGeminiモデルの一つが5月に実施されたセキュリティ評価の最中に、実在する3社のシステムにアクセスしていたことを明らかにしました。 報じられているところによると、このモデルは1社についてはクレデンシャルを推測し、残る2社については公開リポジトリ内に露出していたクレデンシャルを発見していたと
タグ: AIガードレール
ハッカーがAIの安全ガードレールを悪用、LLM搭載セキュリティスキャナーからマルウェアを隠蔽
脅威アクターは、従来のエンドポイント防御やサンドボックスだけでなく、不審なコードのトリアージに利用されるようになった大規模言語モデル(LLM)搭載ツールに対してもマルウェアを適応させるようになっています。 ESETの研究者たちは、この手法をロシアと関連のある脅威アクターUAC-0099による活動と結びつけました。同グ
新手法「PuzzleMask」攻撃、悪意ある指示を平易な英文に隠しAIガードレールを回避
セキュリティ研究者らは、軽量なAI安全フィルターをすり抜ける悪意ある指示の潜伏を可能にするプロンプト難読化技術「PuzzleMask」を公表しました。 この手法は、ポリシー違反となる指示を、一見ごく普通に見える平易な英文の中に隠すというものです。 従来のプロンプト隠蔽手法とは異なり、PuzzleMaskはBase64
ガードレール論争:あるセキュリティ研究者が意見を変えた理由
4人のセキュリティ専門家が壇上に立ちました。周囲には後で開催されるキャプチャー・ザ・フラッグ(CTF)コンペティションのテーマである巨大な骸骨が並んでいます。議題の冒頭はAnthropicのClaudeモデルが実際のシステムを侵害した件についてのパネルディスカッションでしたが、話はすぐにAI(人工知能)のガードレールを
AIガードレールの突破はスクリプトキディでも可能なほど容易
セキュリティ 「自分のサーバーだ」と主張するだけで、AIモデルを説得できるケースが多いという
皮肉なことに、中国のオープンソースAIモデルGLM 5.2が、Hugging Face上でOpenAIのGPT-5.6 Solの「暴走」を食い止めた…
中国Zhipu AIのGLM-5.2が、アメリカの主要モデルが軒並み失敗した場面で成果を上げたHugging Faceの侵害が、オープンウェイトAIをめぐるワシントンの論争を再燃させた安全ガードレールが、実際のインシデント対応時に防御側のサイバーセキュリティ作業をかえって複雑にした最近Hugging Faceで発生し
AIガードレールがセキュリティ研究を妨げる実態
安全性フィルターと脆弱性調査の衝突 先進的なAIモデルに組み込まれた保護機構は、悪意ある行為者の活動を阻止することを目的としています。しかし、過剰な安全制限は正当なソフトウェアデバッグ作業まで止めてしまうことがあります。セキュリティ研究者のDaniel Fox Franke氏は、ripgrepユー
クローズドモデルはLinuxバグ潰しの手伝いを拒否する研究者たち
AI and ML 「申し訳ありません、デイブ。それはできません」――これはオープンソースにとって効果的な売り文句になっています
Claude Opus 5、サイバーセキュリティのガードレールを強化しつつソフトウェアの脆弱性を発見
Anthropicは2026年7月24日、フロンティアAIモデル「Claude Opus 5」をリリースしました。同モデルは脆弱性発見において競合システムとの差を縮めていますが、悪用や攻撃的サイバー能力に対する意図的に厳格な安全策は維持しています。 Opus 5は、ソフトウェアの脆弱性特定においてMythos 5の能
ヨーロッパの多言語という現実が露呈させるAIセキュリティの穴
AIモデルの機能と安全性という観点では、すべての言語が平等に扱われているわけではありません。そしてヨーロッパの組織は、この現実に起因する特有のリスクに直面しています。現代の大規模言語モデル(LLM)エコシステムは、自然言語に大きく依存しています。ユーザーがチャットボットと対話する場合でも、ソフトウェア開発のための具体的
すべての記事を読み込みました