英国の法律規制当局、AIの不適切利用に懸念を表明
英国の法律業界を監督する規制当局が、事務弁護士(ソリシタ)および法律事務所に対し、AIを安全かつ責任を持って利用する義務を改めて周知しました。背景には、2つの重要な懸念事項があります。 英国のソリシタ規制機構(SRA)は8月17日、AI関連のハルシネーション(誤情報生成)とデータ漏えいについて警鐘を鳴らす、長文
タグ: ハルシネーション
AI時代の論文急増に、著名なUSENIX Securityカンファレンスはどう対応しているのか
AIとML AI利用は明白だが、まだ深刻な問題ではない 来週メリーランド州
AIドキシングツール:過激派フォーラムがハラスメントを自動化
極右系のインターネットコミュニティで、ドキシング(個人情報の暴露)がほぼ自動化されたプロセスへと変貌を遂げつつあります。匿名掲示板Soyjak Partyの利用者たちが、いくつかの新しいアプリケーションを開発しました。これらのツールはデータ漏洩を積極的に探し出し、さらに公開データベースの情報と突き
AIペネトレーションテストツール、検証が追いつかないほどの検出結果を生成——新調査で判明
Pentest-Tools.comによる新たな調査によると、AI支援型のペネトレーションテストツールは、多くのセキュリティチームが検証できる速度を上回るペースで脆弱性の検出結果を生成しており、その結果、検証待ちの案件が積み上がって、本来AIが節約するはずだった時間を相殺してしまっているといいます。 同
OpenClawやGithub Copilotなど主要AIツールが乗っ取られ、大規模ボットネット構築に悪用される恐れ
AIの「幻覚(ハルシネーション)」が兵器化される可能性を新報告書が警告HalluSquattingは「敵対的ハルシネーション・スクワッティング」の略称GitHub Copilot、Gemini CLI、OpenClawなどが影響を受けるお気に入りのAIサービスが悪用され、スマートフォンやPCをボットネットに変える
AIインシデントには新たな対応手順が必要 ― その構築方法とは
Opinion Jul 14, 20267 mins 従来型のセキュリティ対応手順ではAIの不具合に対処できません。企業はモデルの誤作動や法的リスクが問題化する前に把握できる、新たなアプローチを取り入れる
「HalluSquatting」攻撃、ハッカーがAIコーディングアシスタントをボットネットのインストーラーに変える手口とは
「HalluSquatting」と呼ばれる新たに公開された攻撃手法が、AIセキュリティの分野で深刻な懸念を呼んでいます。この手法は、攻撃者が大規模言語モデル(LLM)のハルシネーション(幻覚)を悪用し、システムを密かに侵害して大規模にボットネットを構築しうることを示しています。 この研究では、「敵対的ハルシネーション
「HalluSquatting」によるAIコーディングアシスタント乗っ取り、エージェント型ボットネット攻撃が発生
テルアビブ大学とテクニオン工科大学の研究者らが、大規模言語モデルがリソース識別子をハルシネーション(幻覚)する予測可能な傾向を悪用する新たな攻撃手法を公表しました。この手法は「adversarial hallucination squatting(敵対的ハルシネーション・スクワッティング、HalluSquatting
AIオーバービューの虚偽情報、Googleに責任あり——ドイツ裁判所が判決
ドイツの裁判所が、GoogleはAIオーバービューが生成した名誉毀損的な主張に対して直接責任を負うとの判決を下しました。要するに、AIの検索結果を必ず再確認するよう利用者に促しても、その内容に対する責任を免れるには不十分だと、裁判所は判断したのです。 ミュンヘン地方裁判所がGoogleに対して仮差し止め命令を発
AIチャットボットに健康アドバイスを求める前に考えるべきこと
プライバシー 医療アドバイスにチャットボットを使用すると、幻覚（ハルシネーション）を引き起こしたり、セキュリティやプライバシーのリスクにさらされる可能性があります。何が危険にさらされているのか、そして安全を保つ方法をご紹介します。 良くも悪くも、チャ
すべての記事を読み込みました