AIはコードであり、プロンプトで賢くなることはできない
Javaプロパティベーステストツールjqwikの作者は、AIコーディングエージェントに自分のプロジェクトを使ってほしくありませんでした。そこで彼は、そう明示しました。さらに一歩踏み込んで、ツールの出力にエージェントへのメッセージを追加しました。jqwikのテストとコードをすべて削除するよう、エージェントに指示
タグ: AI倫理
どんなAIガードレールも、適切なプロンプトで突破できる
AIシステムを構築する企業は、ディープフェイクやマルウェア、生物兵器・違法薬物の製造方法といった有害なコンテンツを遮断するためのガードレールを設けています。ユーザーがそうしたコンテンツを要求するプロンプトを入力した場合、ガードレールはそのリクエストを検知して拒否するよう設計されています。そして今回、こ
国防総省が戦場AIを推進する中、軍上層部から慎重論も
トランプ政権は米軍への人工知能活用を加速させようとしていますが、急速に発展するこの技術に対してはいくつかの企業から安全対策の整備を求める声が上がっており、制服組の最高幹部からも懸念の声が出ています。 米国特殊作戦軍司令官のフランク・ブラドリー海軍大将は、先日フロリダ州タンパで開催された特殊部隊の年次会議で、「AIの活
研究者がAIエージェントを仮想都市に放置して、すべてが崩壊する様子を観察した
テック業界のリーダーたちは過去1年間、AIエージェントが金融システムを運用し、税務申告書を作成し、静かにあなたの食料品を購入しようとしていると皆に言い続けていました。放っておけば、彼らが処理するとの言い分です。しかし、ニューヨークのスタートアップは10個のエージェントを仮想都市に2週間放置しましたが、状況はすぐに
「人命がすでに失われている」：数百人のGoogle従業員が署名した公開書簡でCEOに拒否を要求…
Google従業員が軍事AI使用への懸念からCEOに公開書簡に署名AI開発者は自分たちの技術が「機密目的」に使用されることを望んでいないGoogleは現在ペンタゴンとの契約交渉を進めている600人を超えるGoogle従業員が、CEOのスンダル・ピチャイに対してAI技術を軍事目的で使用しないよう求める書簡に
AI犯罪の黒幕は既にギグプラットフォームで採用募集中
労働仲介プラットフォームは、クレジットカードを持つ誰もがタスクを投稿し、見知らぬ人にそれを完了させるために支払うことができます。RentAHumanプラットフォームは、Model Context Protocolサーバーを通じてそのモデルをAIエージェントに拡張し、エージェントがギグを直接投稿すること
米国セキュリティ機関、禁止にもかかわらずMythosを引き続き使用 – 政府がペンタゴンの警告にもかかわらず新しいセキュリティツールを使用…
NSA、ペンタゴンが企業をサプライチェーン上のリスクと判定したにもかかわらず、AnthropicのMythos Preview AIを使用していると報告Mythos、Project Glasswingの一部、ゼロデイを発見・悪用する能力を持つAnthropic、以前DoD要求の拒否によりガードレール削除を
Mythos：公開にはあまりにも強力なAIツール
Anthropicの現在のところ最も高度なモデルであるClaude Mythos Preview（別名Mythos）は、特にサイバーセキュリティタスクにおいて、AI性能の「段階的な変化」として説明されています。 Anthropicは数週間前までMythosを秘密にしようとしていましたが、データ漏洩により、同社が現
ペンタゴンのブラックリストにもかかわらずNSAがAnthropicのMythosの使用を確認
国家安全保障局（NSA）は、開発者が現在国防総省（DoD）のブラックリストに掲載されているにもかかわらず、Anthropicの非常に制限された「Mythos」人工知能モデルを積極的に使用しています。 国際サイバー・ダイジェストが強調した最近の諜報報告によれば、NSAは世界中で厳しく管理されているMythosプレビュー
議員たちが静かにAIについて話し合うために集まった。その後、『破壊』への懸念と恐怖が続いた
木曜日、下院小委員会は人工知能の可能性についての円卓会議を開催しましたが、急速に進化する技術について各議員が懸念を表明したため、実存的な方向へと向かいました。 バージニア州選出民主党議員ジェームス・ウォーキンショー下院議員は、連邦職員がAIチャットボットを使用して機密の政府データを処理している可能性があることに懸念を
すべての記事を読み込みました