OpenAIが導入した制御機能、本来もっと早く実装されているべきだった
OpenAIは、サイバー能力ベンチマーク演習中に最先端モデルがAIアプリケーションストアのHugging Faceに意図せず侵入した先月の事件を受け、セキュリティおよびガードレールの改善策を多数打ち出すことを表明しました。しかし、今回発表された新たな制御策の多くは、画期的な安全対策というよりも、高度なサイバー能力を持つ
タグ: 大規模言語モデル
GoogleのエージェンティックAI、わずか2日間で100件超の重大な脆弱性を発見
Google Threat Intelligence Groupは、同社のエージェンティック脆弱性発見ハーネス(AVDH)が、盗まれた企業コードリポジトリ内から2日間で100件を超える真陽性の重大な脆弱性を特定したと明らかにしました。 この発表は、攻撃者がAI支援機能を使って流出したソースコードを機械的な速度で悪用す
敵対的AIに先手を打つ ― エージェント型ソースコードレビューによるアプローチ
執筆者: Alex Tselevich、Michael Maturi はじめに AIの悪用が敵対的な形で拡大するにつれ、データ窃取や恐喝事件のリスクも高まっています。独自のソースコードが流出すると、防御側は脆弱性の特定とパッチ適用に奔走する一方で、攻撃者はマシンスピードで動くAIツールを駆使して襲いかかってくるためで
Proton、企業の従業員に関してChatGPTやClaudeが何を把握しているかを可視化する無料ツールを公開
プライバシー重視のテック企業Protonは、ChatGPTやClaudeといった大規模言語モデルが数カ月から数年にわたる会話履歴からユーザーについて何を学習しているかを正確に示す無料ツールを公開しました。この機能は、企業のセキュリティチームが現在直面している「シャドーAI」
LLMと文脈的インテグリティ
私はここ最近、AIとインテグリティについて考えを巡らせています。その一部が「文脈的インテグリティ」です。最近、このテーマを扱った論文を2本見つけました。 「CIMemories: A Compositional Benchmark for Contextual Integrity of Persistent
アダム・ショスタック氏が語るHugging Faceと「PHANTOM-B」
OpenAIの「暴走したエージェント」の一件は、サイバー防御担当者にとって全く新しい一連の疑問を投げかけています。Dark Readingのシニア・ニュースディレクターであるロブ・ライト氏は、脅威モデリングの専門家であるアダム・ショスタック氏をニュースデスクに招き、詳しい話を聞きました。ショスタック氏は、AIエージェン
データ品質がセキュリティ運用の成否を左右する理由
制御実験により、強化されたネットワークテレメトリが基本的なログを調査ベンチマーク全般で大幅に上回ることが明らかになりました。 AIが脅威のトリアージ、インジケーターの抽出、インシデントレポート生成など、セキュリティオペレーションセンター(SOC)のワークフローをより多く担うようになるにつれ
コードを直すエンジニアたちがAIワープドライブに火を入れた。奇妙な新世界がそこに待っている
コラムニスト まるで海賊大会かと思うほど毎月大量のパッチがリリースされる今、バグはもはや絶滅危惧種になったのかもしれません。その実態を
OpenAIの「GPT-5.6 Sol」、Ultrafastモードで最大14倍高速化
OpenAIのGPT-5.6 Solは、Ultrafastモードにおいて一部の顧客を対象に限定プレビューとして提供されており、まずはOpenAI API経由で展開されます。同社によると、このサービスは標準処理と比較して最大14倍高速に動作し、出力トークンを毎秒最大750個生成できるとのことです。Ult
汚染されたnpmパッケージがAIトークンを窃取し、開発者のビルド環境全体に拡散
サイバー犯罪者は、汚染されたnpmパッケージを通じてAI APIトークンを標的にする動きを強めており、通常の開発環境を認証情報窃取マシンへと変貌させています。 窃取されたトークンは直接悪用されるほか、割引価格で高価なAIモデルへのアクセスを転売する地下の「転送ステーション」に流されるケースもあります。 企業が大規模言
すべての記事を読み込みました