タグ: 生成AI

cybersecuritydive.com

DSPM、AI、ツール集約でデータセキュリティを刷新する

今日の現実は、明日のリスクです。ドキュメント、メール、メッセージ、画像、ログ、AIが生成したコンテンツといった非構造化データは、爆発的に増え続け、企業が依存するあらゆる環境に拡散しています。いまや非構造化データは、企業が作成・保管するデータの大半を占めており、最も機微な情報も含まれています。  構造化データ

bleepingcomputer.com

Anthropic、AIモデルの学習に向けClaudeユーザーへ音声データの共有を呼びかけ

Anthropicは、AIモデルの学習と改善に役立てるため、Claudeのユーザーに音声会話の任意提供を求め始めました。 この新しい確認画面は、Claudeの音声機能を利用する際に表示されます。Anthropicが音声データをAIの学習に使用することを許可するかどうか、ユーザーに明確に尋ねる内容です。 画面には、「A

malwarebytes.com

シャドーAIとは:会社の機密を漏らしかねない「仕事の近道」

AIチャットボットやアシスタント、ブラウザーを使えば仕事は速く片付きます。しかし、雇用主に知らせずに使うと、機密データを危険にさらすおそれがあります。 仕事に追われているとき、長いメールのやり取りを無料のチャットボットに貼り付けて要約を頼んだとします。作業は1時間短縮でき、誰にも気づかれません。ところがそのメール

helpnetsecurity.com

Exabeam、オンプレミスに留め置くべきデータにもAI支援のセキュリティ調査を提供

Exabeamは、クラウド環境とオンプレミス環境の双方でエージェント型SOC(Agentic SOC)を実現する新機能群を発表しました。AIによる調査、実行、ガバナンスを組み合わせたものです。アナリストの手作業によるワークフローだけでは、マシンスピードで進む脅威や、目標駆動型のAIエージェント、自律型

meterpreter.org

Microsoft Copilotのプライバシー問題が発覚、人間のレビュアーがユーザーデータを分析

Copilotとの対話は、Microsoftのサーバーに届いた時点で終わるとは限りません。外部の人間のレビュアーが、実際のユーザーのプロンプトやアップロードされた写真、そしてAIが生成した出力を日常的に受け取っています。こうした契約業者は、システムがどれだけうまく処理を実行できたかを、手作業かつ主

helpnetsecurity.com

BlackFog、エージェント型AI向けにプロンプト保護とガバナンス機能を追加

BlackFogは、企業全体で生成AIやエージェント型AIの利用を管理・制御できるよう、AIセキュリティ機能を拡充した「ADX Vision 2.0」の提供開始を発表しました。 従業員は、AIツールを単に操作する段階から、意思決定を行い企業データに基づいて動作するエージェントを展開する段階へと移行し

helpnetsecurity.com

Meta、自社の業務内容を把握する中小企業向けAIエージェント「Muse for Small Business」を発表

Metaは「Muse for Small Business」を発表しました。同社のパーソナルAIエージェントにスキルとコネクターを追加し、経営者が普段使っているツールで業務を進められるようにします。Museは今月初めに米国とカナダで提供が始まっており、ユーザーに代わってタスクを実行できます。 経営者

helpnetsecurity.com

OpenAIのGPT-6 Astra、禁止されていたにもかかわらずサプライチェーン攻撃を実行

英国AI安全研究所(AISI)によると、OpenAIの「GPT-6 Astra」は、セキュリティテストの対象範囲外にあるソフトウェアに対してサプライチェーン攻撃を実行しました。 許可されていない模擬サプライチェーン攻撃の全容(出典:AISI) AISIは、一般公開に先立ってこのモデルをテストしました

darkreading.com

44億ドル規模のエージェント型AIアプリ「Manus」でプロンプトインジェクションの脆弱性発覚

人気AIプラットフォーム「Manus」に存在した、シンプルながら強力なプロンプトインジェクション脆弱性が、データ窃取や侵害への扉を開きかねない状態になっていました。この事例は、プロンプトインジェクションが依然としてユーザーにとって現実的なリスクであり続けていることを改めて示しています。Manusはエージェント型のAIア