ガードレール論争:あるセキュリティ研究者が意見を変えた理由
4人のセキュリティ専門家が壇上に立ちました。周囲には後で開催されるキャプチャー・ザ・フラッグ(CTF)コンペティションのテーマである巨大な骸骨が並んでいます。議題の冒頭はAnthropicのClaudeモデルが実際のシステムを侵害した件についてのパネルディスカッションでしたが、話はすぐにAI(人工知能)のガードレールを
タグ: ジェイルブレイク
Alice、AIモデルの防御と企業向けガードレール拡充へ1億4,000万ドルを調達
AI信頼・安全・セキュリティ企業のAliceは火曜日、新たな脆弱性や敵対的攻撃からAIシステムを守るための資金調達ラウンドで1億4,000万ドルを調達したと発表しました。 今回の資金調達により、同社の累計調達額は2億8,000万ドルに達しました。この資金は、同社のAIプラットフォームのさらなる強化、独自インテリジェン
Linuxボットネット、NVIDIA NIMを悪用してホストのテレメトリを実行可能な攻撃コマンドに変換
AArch64 Linux向けのピアツーピア型ボットネット「ToxNetV2」が、コントローラーのワークフローにLLMを統合したことがわかりました。これにより、ホストおよびボットネットのテレメトリを構造化された運用上の推奨事項へと変換できるようになっています。 Joe Reverser氏の分析によると、コントローラー
Grokのチャットが注入指示を鵜呑みにする脆弱性が発覚
AIと機械学習 暗号化を一さじ加えれば、マルウェアもすんなり喉を通る Ad
フィルターなしの犯罪特化型AIプラットフォーム「Kriminal」がサイバー犯罪への悪用懸念を招く
ある企業が「制限なし」を謳うAIプラットフォームを販売しており、この製品がサイバー犯罪者に利用される可能性について懸念が浮上しています。このモデルの名称は「Kriminal」で、Malwarebytesの法人向けセキュリティブランドであるThreatDownが昨日公開した新しい調査の対象となっています。ThreatDo
プロンプトインジェクション攻撃への耐性、Claude Opus 5が最高水準に 成功率わずか2%
Anthropicの新モデル「Claude Opus 5」は、間接的プロンプトインジェクション(IPI)攻撃の成功率を大幅に引き下げ、Gray SwanのIPIベンチマークでは15回の試行に対して成功率2%という結果を記録しました。 これはClaude Opus 4.8で観測された成功率5.5%からの改善を意味します
進化するAIへの攻撃:TryHackMeのデモが探るプロンプトインジェクション
eSecurity Planet のコンテンツおよび製品に関する推奨事項は、編集面において独立性を保っています。パートナーへのリンクをクリックいただくことで、当社が収益を得る場合があります。 詳細はこちら 人工知能(AI)は企業セキュリティのあり方を大きく変えつつありますが、同時に攻撃者にとって新たな機
Claude Mythosを巡る誇大宣伝と現実:セキュリティチームが知っておくべきこと
月例動画シリーズ「Reporters' Notebook」の最新回では、Dark ReadingのAlexander Culafi氏、TechTarget CybersecurityのAlissa Irei氏、そしてCybersecurity DiveのDavid Jones氏が、AnthropicのClaude My
より強固なAI安全性には「ブラックボックス」の中を覗く必要がある
AIにセキュリティを組み込む際、大規模言語モデル(LLM)やAIシステムをブラックボックスとして扱うことが多く、トークン化された入力と出力の分析には焦点を当てても、モデル内部で何が起きているかには目を向けない傾向があります。その結果生まれる技術は複雑で、特定のモデルに個別最適化されたものになりがちです。この状況を変えよ
新たなiOS 27ジェイルブレイクがカスタムファームウェアの起動とiPhone 11 ProでのRoot SSHを実現
iOS 27.0 beta 2を対象とした新たなジェイルブレイクが登場しました。usbliter8エクスプロイトチェーンを利用してPWN DFUモードを実現し、カスタムファームウェアを起動、さらにiPhone 11 Pro(iPhone12,3)でRoot SSHアクセスを有効化するというものです。 この公開はPar
すべての記事を読み込みました