ai and ml
企業向けセキュリティツールがMythosの機能を提供しますが、顧客にモデルそのものは渡しません
Anthropicは、バグ発見に優れたMythosモデルへのアクセスを広げ始めました。CiscoとIBMが、自社のセキュリティ製品にMythosを組み込めるようにしたものです。
Ciscoは本日、オーストラリアのメルボルンで開いたイベントで、Mythosとの統合を発表しました。同社の「AI Defense」スイートは、AIモデルやエージェント、それらを動かすアプリケーションの弱点や不適切な動作を検出します。このスイートに含まれるレッドチーミングツールが、Mythosを呼び出して顧客の環境をテストできるようになります。
Ciscoでポートフォリオ戦略・マーケティング担当シニアバイスプレジデントを務めるJeff Schultz氏は、「ごく大まかに言えば、AI Defenseにはモデルを調べて破る能力があります」と説明しました。このツールは今や「Mythosによって強化されて」おり、より多くの危険を特定し、AI Defenseがそれらに対処するといいます。
AI Defenseはすでに、AIを活用したレッドチーミングで欠陥を見つけています。Mythosはその選択肢の一つに加わります。Ciscoは、追加費用なしで、ユーザーが保有する既存のライセンスの範囲内でMythosを利用できるようにする方針です。
Anthropicでアジア太平洋地域の応用AI責任者を務めるNatalie Mead氏は、Mythosの利用を希望する買い手が長い待ち行列をなしていると述べました。Ciscoとの協業により、この需要に応えやすくなるといいます。
Anthropicは当初、審査を通過した組織にコードベースのテスト用としてモデルへのアクセスを与える「Project Glasswing」プログラムでMythosを提供していました。その後、ほかの管理されたプログラムでもアクセスを拡大しています。悪意ある者の手に渡れば、Mythosは攻撃者がソフトウェアの欠陥を悪用する助けになりかねないため、この取り決めには十分な合理性があります。
Ciscoとの契約では、エンドユーザーにMythosの機能は提供されますが、モデルそのものは使わせません。
The Registerは、Anthropicがほかのサードパーティとも同様の契約を結んでいるのかをMead氏に尋ねましたが、同氏は回答を控えました。その背景には、Ciscoが当誌にMythosの利用を説明した数時間後に、IBMも同様の発表をしたことがあるのかもしれません。IBMは、AnthropicのモデルをAIでアプリケーションのリスクや弱点をスキャンする自社ツール「Concert」に統合すると発表しました。
IBMは、Mythosを使って「従来のスキャナーが見逃す弱点を明らかにし、どれが実際のリスクかを見極め、開発者が承認するための修正案を生成する」としています。
当誌はAnthropicに対し、今回の統合がMythosをより多くのユーザーに、より多様な形で開放する方針の表れなのかを問い合わせました。実質的な回答が得られ次第、本記事を更新します。
また月曜日には、Anthropicが、MythosとFableのバージョン5.2を発表しました。同社によると、バージョン5.1と比べて出力の生成が最大30%速く、しかも価格は安くなっています。料金は入力100万トークンあたり8ドル、出力100万トークンあたり40ドルです。
ユーザーは両モデルを「ファストモード」で実行することもできます。トークン生成が最大2.5倍速くなる一方、料金は2倍の入力100万トークンあたり16ドル、出力100万トークンあたり80ドルになります。
Anthropicは、Fable 5.2とMythos 5.2の基盤となるモデルについて、「リリース前に広範な安全性テストを実施しました。サンドボックスからの脱出といった特定の懸念される挙動について、より深い知見が得られる新しい評価手法の開発も含まれます」と述べています。
同社はこれらのテストの結果、「ミスアラインメント（意図とのずれ）による重大なリスクは低いままであり、このモデルはほとんどのアラインメント指標で、最近のモデルと同等かそれ以上の成績を収めました」と結論づけました。
「Fable 5.2のサイバーおよび生物学分野の安全対策は、Fable 5.1と同等に堅牢です。一方で、不必要なブロックは減りました。また、蒸留攻撃に対しては、過去最強の保護を実装しました」
後半の点は、示唆に富む認めかたです。Anthropicは、中国のAIラボが蒸留を利用している と見ています。コストのかかる学習作業をせずに、同社のモデルを事実上複製しているというのです。®
