Future AGIは、LLMエージェントのトレース、評価、シミュレーション、ガードレール設定を行うオープンソースプラットフォームで、Apache 2.0ライセンスのもとセルフホスティングが可能です。セルフホスト型インスタンスは初回起動時にFuture AGIへ登録を行い、インスタンスID、バージョン文字列、デプロイタイプ、そしてアクティブな管理者ユーザーのメールアドレスとドメインを送信します。
この登録処理は、誰かがダッシュボードにサインインする前、一度だけ実行されます。オプトアウトの方法は環境変数一つで、初回起動前に.envファイルにFUTURE_AGI_TELEMETRY_DISABLED=1を設定するだけです。ただしこのタイミングを逃すと、管理者リストはすでにネットワークの外へ送信されてしまっています。
Future AGIは、エアギャップ環境やオンプレミス環境でのデプロイをサポート対象として挙げており、外部通信なしで運用できるとしています。
テレメトリを無効化した場合でも、インスタンスID、バージョン、デプロイタイプを含む国勢調査的なpingが一度だけ送信されますが、メールアドレスは送信対象から除外されます。また、定期的なハートビート通信は停止します。Future AGIのテレメトリに関する説明の末尾には、運用担当者向けに次のような一文が記されています。「完全な沈黙が必要な場合は、エッジでネットワークをオフにしてください」
インストールに含まれるもの
インストーラーは、localhost:3000上のダッシュボードの背後で、ClickHouse、PostgreSQL、Redis、RabbitMQ、Temporalを立ち上げます。スパン(span)データはClickHouseに格納されます。プロンプトのテキスト、モデルの出力、ツール呼び出しは、このストアに書き込まれるまでの間、トレーサーを経由します。
計装(インストゥルメンテーション)は、LangChain、LlamaIndex、CrewAI、DSPyを含む50以上のエージェントフレームワークをOpenTelemetry経由でカバーしています。防御側の担当者は、トレースデータとともに、このデータベースに設定されているアクセス制御もそのまま引き継ぐことになります。
すべての手前に位置するゲートウェイ
Agent Command Centerは、100以上のプロバイダーの手前に立つOpenAI互換のプロキシで、ルーティング戦略、セマンティックキャッシュ、仮想キー、MCP、A2Aに対応しています。デプロイ環境内のすべてのプロバイダー認証情報は、ここに集約されます。
Protectは、PII、ジェイルブレイク、プロンプトインジェクションに対応する18種類の組み込みスキャナーに加え、Lakera、Presidio、Llama Guardをカバーするベンダーアダプターを提供します。これらはゲートウェイ内でインラインに動作させることも、SDK経由でスタンドアロンとして動作させることも可能です。インラインスキャンを行った場合でも、同プロジェクトのベンチマーク環境においてP99レイテンシは21ms以下に収まっています。
Future AGIはGitHubから無料で入手できます。
