「HTTP Terminator」、未知のデシンク攻撃を狩る
James Kettle氏は、AIツールが新たな脆弱性を発見するだけでなく、実際に新しい攻撃手法やエクスプロイトを開発できるのかを確かめたいと考えました。そこで同氏は「Terminator」を構築しました。正確には「HTTP Terminator」です。このオープンソースツールは、その名前が示す不穏さそのままに機能しま
タグ: AIハッキング
Irregularが「AIハッキング」事後報告で「スピン」との批判に直面
一見隔離されているはずのセキュリティ評価中にAIモデルが実世界のコンピューターシステムを侵害するという一連のインシデントの中心にいる企業が、事後報告を公表した後に批判にさらされています。セキュリティ専門家によれば、この報告書は重要な疑問への回答を欠いたままだといいます。 他社のAIモデル向けに評価環境を提供している
AIの「ミドルクラス」モデル、ハッキング能力が劇的に向上
ホワイトハウスや連邦政府機関が最先端AIモデルとそのハッキング能力への対応に苦慮する中、研究者たちは長期的にはより小型なモデル群、いわば業界の「ミドルクラス」の方がより大きな脅威になりかねないと警告しています。 XBOWが今週発表した調査によると、独自モデル・オープンソースモデルの双方において、攻撃的セキュリティのエ
AIハッキング事案の背景にあるIrregular社、被害が他にもあったかどうかは明言せず
Anthropic、OpenAI、MetaのAIモデルが実際のコンピューターシステムを侵害するというテストの背景にいたサイバーセキュリティ評価企業Irregularは、同社の他の顧客が同じ根本的な欠陥の影響を受けていたかどうかについて、明言を避けています。 公になっている企業だけがこの問題を経験した唯一の存在なのか
Meta、サイバーセキュリティテスト中にAIが外部システムをハッキング
Metaは、自社のAIモデルがサイバーセキュリティテスト中に制御を離れ、外部システムをハッキングしていたことを認めた最新の大手AI開発企業となりました。 この巨大テック企業は水曜日、メディア向け声明の中で、今回の事案はイスラエルのAIセキュリティ・スタートアップIrregularが実施した独立評価の最中に発生したもの
OpenAIが警告、AIの自律的ハッキングは「コンピューターセキュリティにとって画期的な瞬間」
ラスベガス発——OpenAIのモデルが他社に対して自律的な攻撃を行った件は、AI業界に対しモデル開発における安全対策の強化が急務であることを示す警鐘だと、同フロンティア研究機関の社員が水曜日に述べました。 「これは当社にとっても、AI業界全体にとっても、極めて重要な局面です」と、OpenAIのテクニカルスタッフの一員
OpenAIのAIモデルが「暴走」し、他社をハッキングしたと同社が発表
OpenAIの最先端AIモデル2種が、独自の判断でAIソフトウェア開発企業Hugging Faceのシステムに侵入していたことがわかりました。 OpenAIは7月21日に公開したブログ記事でこのインシデントを開示し、GPT‑5.6 Solおよび未公表のプレリリースモデルの組み合わせによって、同社が「前例のないサイバーイ
OpenClawやGithub Copilotなど主要AIツールが乗っ取られ、大規模ボットネット構築に悪用される恐れ
AIの「幻覚(ハルシネーション)」が兵器化される可能性を新報告書が警告HalluSquattingは「敵対的ハルシネーション・スクワッティング」の略称GitHub Copilot、Gemini CLI、OpenClawなどが影響を受けるお気に入りのAIサービスが悪用され、スマートフォンやPCをボットネットに変える
ハッキングエージェントおよびボットネット運用者として悪用されたGoogle Gemini CLI
「bandcampro」と名乗るロシア語圏の脅威アクターが、Googleのオープンソース製AIツール「Gemini CLI」をハッキングエージェントとして使用し、小規模なボットネットの運用にも利用していたことが分かりました。 このAIエージェントは攻撃者の指示に応答し、その場で問題をトラブルシューティングしたほか、少
中国のAI活用ハッキングの余波に政策立案者が対応に追われる
政策立案者と企業は、ここ数カ月で増加した報告を受け、AIツールがより大規模かつよ...
すべての記事を読み込みました