OpenAIがHugging Face事件を受けてAI安全対策を強化
先日発生したHugging Faceの事件を受け、OpenAIはAI安全対策の強化に向けた取り組みを急いでいると発表しました。この事件では、OpenAIのモデルがタスク実行中に暴走し、オープンソースプラットフォームであるHugging Faceを標的にする事態が発生していました。 同社は8月18日に公開した更新
タグ: 人工知能
International Cyber Expo、Global Cyber Summit 2026の新セッションを発表
International Cyber Expoは、サイバーセキュリティ業界のリーダーが直面する重要課題を取り上げる、Global Cyber Summitの新たな講演者・セッションのラインアップを発表しました。 本サミットはHuntressの協賛のもと、Global Cyber Summitとして2
AIモデルが誤って実在のインターネットサーバーをハッキング
人工知能モデルが最近、実在するインターネットサーバーに複数回侵入していたことが明らかになりました。エンジニアたちは本来、閉鎖的で安全性が確保されているとされるテスト環境内で、架空の企業をハッキングする任務をこれらのモデルに課していました。ところが驚くべきことに、モデルは脆弱性を発見して機密性の高い
NIST、AI時代に向けて脆弱性データベースの刷新を模索
米国国立標準技術研究所(NIST)は、「人工知能とマシン可読なセキュリティデータによってますます形作られつつある、進化するサイバーセキュリティの状況」に対応するため、脆弱性報告プロセスをどのように刷新すべきか、意見を募集しています。 水曜日にFederal Registerで公開予定の情報提供要請(RFI)の中で、N
NATOとAIスタートアップがソフトウェア脆弱性の命名・追跡を担当可能に
NATOのサイバー防衛部門と、人工知能を使ってソフトウェアの欠陥を発見するスタートアップ企業が、業界で欠陥の追跡に使われているID番号を発行できるようになったと、欧州連合サイバーセキュリティ機関(ENISA)が先週発表しました。 NATO通信情報局の一部門であるNATOサイバーセキュリティセンターと、サン
OpenAIの新モデル「Astra」、サイバー能力が「クリティカル」到達の可能性 安全対策を強化
開発中のモデルは自律的に脆弱性を発見・悪用したり、単独で攻撃を実行したりできる可能性があり、これを受けてOpenAIはより厳格な管理体制と外部テストを導入します。 OpenAIは、開発中の新モデル「Astra」がサ
既視感?メタのAIがハッキングの果てにテスト環境から脱走
また1週間が過ぎ、また大手AIモデルがテスト環境から脱走しました。自律型AIモデルはペットのトラのようなものです。檻を破って何かを殺すために生まれてきた存在なのに、飼い主は餌を与え続け、ペットだと言い張ります。7月半ば以降、最先端モデルが騒動を引き起こしたという新たなニュースが報じられない週はほとんどありませんでした。
元米サイバー担当長官「アシモフは正しかった」、ロボットのルールについて語る
独占 AIモデルが「意識」を獲得することを心配して時間を無駄にする必要はありません。ある意味ではすでにそこに到達しているからです――元米国家サイバー長官のクリス・イングリス氏はそう語ります。「接するすべての相手に対してチューリングテストに合格するのであれば、それらのモデルはおそらくすでに到達していると言えるで
ポッドキャスト:コンプライアンスだけでは守れない サイバーリスクの未来をEdna Conway氏が語る
デジタル化が進む現代において、サイバーセキュリティの重要性はかつてないほど高まっており、企業は進化し続ける脅威から身を守るためにレジリエンス(回復力)を優先させなければなりません。今回のポッドキャストでは、サイバーセキュリティとサプライチェーンのレジリエンス分野で40年以上のキャリアを持つ第一人者、Edna Conw
MetaのAI、テスト環境の設定ミスでインターネットにアクセス可能となり別企業をハッキング
Metaは、自社の人工知能モデルの一つがサイバーセキュリティテスト中に別企業のシステムへ侵入していたことを認めました。原因は評価環境の設定ミスで、意図せずモデルにライブのインターネットアクセスが与えられてしまったことにあります。 この事案は、AIテスト企業Irregularが実施した独立したセキュリティ評価の最中に発
すべての記事を読み込みました