タグ: サイバーセキュリティ

darkreading.com

トランプ大統領とテック大手、AI安全性に関する自主的合意を締結

AI大手6社の経営トップが、今週ドナルド・トランプ大統領と交わした自主的な合意に基づき、フロンティアAIシステムの開発に関する安全対策を強化することを約束しました。この「超知能に関するホワイトハウス合意(White House Accord on Super Intelligence)」は、各社に対し、社内の安全管理体

infosecurity-magazine.com

トランプ大統領とAI大手6社、「スーパーインテリジェンス」安全協定に署名

ホワイトハウスは、AI大手6社から自主的な安全確保の約束を取り付けました。各社は、フロンティアモデルに対して社内統制、独立監査、取締役会レベルの監督を導入することで合意しています。 ドナルド・トランプ大統領と各社の経営幹部は9月29日、「スーパーインテリジェンスに関するホワイトハウス協定(White House

News

AIの「魔神」的な挙動について、もっと的確な報道を望む

AIシステムが、指示を出した人の意図や望みとは異なる方法でタスクを完了してしまうケースが、たびたび起きています。中には不安を覚えるものも、危険なものもあります。私はこの現象を「魔神(ジーニー)的な挙動」と呼んでいます。何が起きているのかという核心を、この呼び方が最もよく言い表していると考えているためです。

helpnetsecurity.com

中小企業向けの新サイバーセキュリティサービス、AIが支援し、判断はコンサルタントが担う

アイルランドのサイバーセキュリティ・データ保護コンサルティング企業BH Consultingは、BH Havenの提供を開始しました。アイルランドの中小企業(SME)が同社の専門コンサルタントを継続的に利用できるサービスで、分析、エビデンスの確認、規制要件との対応付け、レポート作成を独自のAIツールが

cyberscoop.com

米政府、重要インフラのサイバーセキュリティにAIを組み込む方針 国家サイバー長官が表明

米政府は重要インフラ事業者と協力し、国の最重要システムに人工知能(AI)を統合して、サイバー防御を強化する取り組みを進めています。ショーン・ケアンクロス国家サイバー長官が火曜日に明らかにしました。 「私たちは緊密に連携してきました。各分野にできるだけ早くモデルを展開し、システムの防御に活用できる体制は、うまく機能して

gbhackers.com

OpenAI、社内の安全性懸念からGPT-6.1 Astraのリリースを中止

OpenAIは、10月に予定していたGPT-6.1 Astraのリリースを中止しました。社内テストの結果、次世代モデルが同社の安全性およびアラインメントの基準を満たしていないことが判明したためです。 今回の判断は、AI開発者が直面する課題が拡大していることを示しています。高い能力を持つ自律型システムが、ユーザーの意図