ホワイトハウス首席補佐官のSusie Wilesは、Anthropic CEOのDario Amodeiに、人工知能企業の新しいMythosモデルについて意見を聞く予定です。このモデルは、国家安全保障と経済をどのように変革できるかについて、連邦政府からの注目を集めています。
匿名を希望したホワイトハウス高官は金曜日の予定会議について、政権がAI企業の高度なラボとそのモデルおよびソフトウェアのセキュリティについて協議していると述べました。この高官は、連邦政府によって使用される可能性のある新しいテクノロジーはすべて、評価のための技術的期間が必要になることを強調しました。
この会談は、トランプ政権と安全意識の高いAnthropicとの間に緊張が走った後に行われます。Anthropicはその開発に対する制約を設けてAIの潜在的リスクを最小化し、米国の経済および国家安全保障上の利益を最大化することを目指してきました。
ドナルド・トランプ大統領は、国防総省との契約紛争をめぐって、すべての連邦機関がAnthropicのチャットボットClaudeを使用するのをやめるよう試みました。トランプは2月のソーシャルメディア投稿で、政権は「彼らとはもう二度とビジネスをしない」と述べました。
国防長官のPete Hegsethはまた、Anthropicをサプライチェーンリスクとして宣言することを求めました。これはAnthropicが2つの連邦裁判所で異議を唱えた米国企業に対する前例のない動きです。同社は、国防総省が完全自動兵器およびアメリカ人の監視にそのテクノロジーを使用しないという保証を望んでいると述べました。Hegsethは、同社は国防総省が合法と判断した任意の使用を許可する必要があると述べました。
米国地方裁判所のRita Lin判事は3月に、すべての連邦機関がAnthropicの製品の使用をやめるように命じるトランプのソーシャルメディア指令の施行をブロックする判決を下しました。
Anthropicは事前に会談についてのコメントを拒否しました。
サンフランシスコに拠点を置くAnthropicは、4月7日に発表した新しいMythosモデルは「著しく有能」で、コンピューター脆弱性の発見と悪用においてサイバーセキュリティの専門家を超える能力があるため、選ばれた顧客のみに限定して使用していると述べています。
ハーフムーンベイのリッツカールトンでのAIリスクサミットで詳細を学ぶ
業界専門家の一部がAnthropicの強力すぎるAI技術に関する主張がマーケティング戦略であるかどうかを疑問視している一方で、同社の最も厳しい批評家の中でさえ、MythosがさらなるAIの進歩を表しているかもしれないと示唆しています。
ホワイトハウスのAI・暗号資産担当責任者であった影響力のあるAnthropic批評家David Sacksは、人々がこれを「真摯に受け止めるべき」だと述べました。
「Anthropicが人々を怖がらせるたびに、『これは戦術ですか？これは彼らのChicken Littleルーチンの一部ですか？それとも本当のことですか？』と問いかけなければなりません」と、Sacksは他のテック投資家と共同でホストしている「All-In」ポッドキャストで述べました。「サイバーについては、実は私はこの場合彼らに信用を与え、これはより現実的な側面にあると言います。」
Sacksは、「コーディングモデルがより能力を持つようになるにつれて、バグを見つけることがより得意になります。つまり、脆弱性を見つけることがより得意になり、複数の脆弱性をつなぎ合わせてエクスプロイトを作成することがより得意になるということです」と述べました。
このモデルの潜在的な利益およびリスクは、米国外での注目も集めています。
英国のAIセキュリティ研究所は、新しいモデルを評価し、すでに急速に改善されていた以前のモデルより「向上」していると述べました。
「Mythos Previewはセキュリティ態勢が弱いシステムを悪用でき、これらの機能を備えたより多くのモデルが開発される可能性が高い」と、同研究所は報告書で述べました。
Anthropicはまた、ヨーロッパでまだリリースされていない高度なモデルを含めて、欧州連合とそのAIモデルについて話し合っていると、欧州委員会のスポークスマンThomas Regnierは金曜日に述べました。
AxiosはWilesとAmodeiの予定された会談を最初に報道しました。
Mythosを発表したとき、Anthropicはまた、Amazon、Apple、GoogleおよびMicrosoftなどのテック大手と、JPMorgan Chaseなどの他の企業をもたらすProject Glasswingという取り組みを形成していると述べました。このイニシアチブの目的は、新しいモデルが公共の安全、国家安全保障、および経済に与える可能性のある「深刻な」影響から世界の重要なソフトウェアを保護することです。
「世界で最も重要ないくつかの企業と組織のサブセットにそれをリリースして、彼らがこれを使用して脆弱性を見つけることができるようにしています」と、Anthropicの共同創業者および政策責任者Jack Clarkは今週のSemafor World Economy会議で述べました。
Clarkは、Mythosは曲線の先を行っていますが、「特別なモデル」ではないと付け加えました。
「他の企業からは数ヶ月以内にこのようなシステムが出現し、1年から1年半後には、これらの機能を備えた中国からのオープンウェイトモデルが登場するでしょう」と彼は述べました。「ですから、世界はその中に存在する予定のより強力なシステムに備える必要があります。」
