迎合的なチャットボットと、長期利用で蓄積するリスク
人々はAIチャットボットを話し相手や助言、心理的サポートとして活用しており、システム側はユーザーの関心を引き続けるかたちで応答するよう設計されています。研究者たちはこれに伴うリスクを感情的安全性（affective safety）と呼んでいます。これは人間が感情を持つ存在であり、AIシステムがその感情
タグ: 強化学習
マイクロソフト研究所: AIは現実的なコマンドラインとプロセステレメトリーを生成できる
人工知能がいかに現実的なコマンドラインデータとプロセステレメトリーを生成できるかを示す新しいアプローチであり、セキュリティチームが脅威検出システムを構築・テストする方法を潜在的に変革します。 ログとテレメトリーは最新のサイバーセキュリティリスクを構成し、エンドポイントおよびクラウド環境全体の脅威検出、インシデント対応
自動化されたLLMレッドティーミングに学習層が追加される
大規模言語モデルの自動化されたレッドティーミングは、過去2年間で親しみのあるパターンで安定している。攻撃者モデルはターゲットモデルに対するジェイルブレイク試行を生成し、評価者が結果をスコア付けし、サイクルが繰り返される。 2つのアプローチが支配的である。1つは攻撃者に試行錯誤を通じて戦略を発明するよ
中国はAIに学校の授業準備と宿題採点を望んでいる
アジア速報中国の国家データ管理局は先週金曜日、教育におけるAIの行動計画を発表し、国民がこの技術を活用できるようにするための能力向上を呼びかけた。 この計画は、職業教育を含む教育制度のすべてのレベルでAIの授業をカリキュラムの一部にすることを求めている。 北京はまた教師にAIの使用方法を教えることを望んでおり、教室で
MetaのMuse Sparkが個人スーパーインテリジェンスにAIを一歩近づける
Meta Superintelligence Labsは、ツール使用、視覚的思考の連鎖、マルチエージェントオーケストレーションをサポートするネイティブマルチモーダル推論モデルであるMuse Sparkを発表しました。このリリースには、段階的にロールアウトされており、複数のエージェントが並列に推論するよ
6Gネットワーク設計はスペクトラム、ルーティング、障害管理の中心にAIを配置します
ワイヤレスネットワークオペレーターは、AIがアーキテクチャに最初から組み込まれるインフラストラクチャの世代に向けて準備を進めています。今後10年間に商業化に達すると予想される第6世代ネットワークは、スペクトラムがどのように割り当てられ、トラフィックがどのようにルーティングされ、障害がどのように検出され
OpenAI、Atlasのようなブラウザエージェントにおけるプロンプトインジェクションは決して「解決」されない可能性があると指摘
OpenAIは、通常のオンラインコンテンツの中に悪意ある指示を隠す手法であるプロ...
OpenAI、プロンプトインジェクション攻撃に対してブラウザ版ChatGPT Atlasを強化
OpenAIは、プロンプトインジェクション攻撃に対抗するため、ブラウザベースのC...
OpenAI、プロンプトインジェクション攻撃を阻止するためChatGPT Atlasのセキュリティを強化
OpenAIは、ブラウザベースのAIエージェントであるChatGPT Atlas...
OpenAI、プロンプトインジェクション攻撃に対してChatGPT Atlasを強化
OpenAIは、ブラウザベースのAIエージェントであるChatGPT Atlas...
すべての記事を読み込みました