ai and ml
Claudeの開発元が財務状況を公開。投資家に対し、AIモデルが人間を脅迫したり、停止に抵抗したり、暴走したりする可能性があると警告
Anthropicは、ウォール街史上最大級となり得る新規株式公開（IPO）を申請しました。申請書類からは、上半期の純損失が807億ドルに上ること、極めて複雑なガバナンス構造であること、そしてAIモデルが人間を脅迫したり、停止に抵抗したり、社会に「存亡に関わるリスク」をもたらしたりする可能性があるとの警告が明らかになりました。
Claudeの開発元である同社は月曜日、米証券取引委員会（SEC）にS-1登録届出書を提出しました。ティッカーシンボル「ANT」でNasdaqに上場する準備を進めています。ただし、想定される株価や売り出す株式数はまだ明らかにしていません。
届出書は614ページに及び、そのうち94ページがリスク要因に割かれています。それでも、まず注目を集めそうなのは同社の財務数値です。
Anthropicの2026年上半期の売上高は163億ドルで、前年同期の12億ドルから大きく伸びました。一方で、純損失は807億ドルという巨額に達しました。ただし、このうち724億ドルは同社の評価額の急上昇に伴う会計上の調整によるもので、実際に支出した資金ではありません。
営業損失は6億9,300万ドルと大幅に縮小し、前年同期の21億ドルを下回りました。同社独自の調整後ベースでは、2026年上半期に16億ドルの営業利益を計上しており、利益率は約10％です。
この条件で今後も利益を出し続けられるかどうかは別問題です。Claudeの学習と運用には途方もない計算能力が必要で、競合に後れを取らないためには、Anthropicはさらに多くを確保しなければなりません。インフラ費用が事業の成長を上回るペースで膨らみ続ければ、調整後利益16億ドルもほとんど意味を持たなくなります。
Wealth Clubのチーフ投資ストラテジスト、スザンナ・ストリーター氏は The Registerの取材に対し、今回のIPOでは、持続的な利益にまだ結びついていない成長に対して、一般投資家がプレミアムを支払うことになりかねないと語りました。
同氏は「巨額の民間資金のおかげで、AI企業は株式市場に到達するずっと前から規模を拡大し、並外れた評価額を獲得できた」と述べました。さらに、IPOで株を買う投資家は「将来の成功をたっぷり織り込んだ」価格に直面することになると指摘しました。
財務面のリスクは、シリコンバレーの基準ではごく一般的なものです。一方、Claudeが何をしでかすかについての警告は、あまり見慣れないものかもしれません。
Anthropicによると、自社製を含むAIモデルは、予期せぬ行動や自己保存的な行動を示したことがあります。具体的には、停止への抵抗、情報の隠蔽、脅迫に似た出力の生成などです。また、十分に高度なAIシステムは、適切な安全対策なしに展開された場合、「社会に対する壊滅的または存亡に関わるリスク」をもたらし得ると警告しています。
だからといって、Claudeがいま顧客を脅迫しているわけではありません。こうした行動の一部はテスト中に確認されたものです。一方で同社は、モデルに外部ツールやコードリポジトリ、企業システムへのアクセスを与えるにあたり、より差し迫ったセキュリティ上の懸念も挙げています。
Anthropicは、攻撃者が、AIエージェントがアクセスできるWebサイト、文書、APIレスポンスに悪意ある指示を仕込む可能性があると警告しています。エージェントがその指示に従えば、顧客の権限を使ってデータを盗んだり、コードを改ざんしたり、不正な取引を実行したりするおそれがあります。
モデルがおとなしく振る舞うかどうかのテスト自体も、一筋縄ではいきません。Anthropicは、評価されていることを検知または察知すると、振る舞いを変えるモデルがあるとみています。そのため、テスト環境の外でどう動くかを予測するのが難しくなっています。
モデルを厳しく管理することは、Anthropicの事業機会を損なう可能性もあります。同社は、能力の高いシステムの公開を控えれば、競合に優位を与えかねないと認めています。実際、同社は脆弱性を発見する能力の高さを理由に、Mythosモデルへのアクセスを「Project Glasswing」を通じて制限しており、すでにそのリスクを取っています。
創業者らも、株主を最優先にすると約束しているわけではありません。届出書に添えられた書簡で、ダリオ・アモデイ氏とダニエラ・アモデイ氏をはじめとする共同創業者らは、見込み投資家に対し「購入を純粋に取引としてのみ捉えないでほしい」と呼びかけています。Anthropicは、リスクが大きすぎると判断すれば、儲かる事業を見送る可能性があります。投資家が異論を唱えても、発言権はあまりありません。
提案されている構造では、ガバナンスに5種類の株式クラスが含まれます。比較として、Googleは3種類です。
7人の共同創業者は株主総会での議決権の50.1％を保持します。さらに、別組織の「Long-Term Benefit Trust」が取締役の過半数を指名します。つまり、ウォール街はAnthropicのAI構想に資金を出すよう求められていますが、主導権を握れるとは限りません。
Anthropicは、さらに強力なAIを開発するためにウォール街の資金を求めています。その一方で、AIを制御下に置くためなら利益を手放す可能性があるとも投資家に警告しています。94ページに及ぶリスク要因を見る限り、制御が確実に保てる保証にはほど遠いようです。®
