Reflection社の「Beam」、コーディングテストでは主要オープンモデルに及ばず ただし推論コストは低いと主張
Reflection AIは、コーディングやエージェントタスク向けのオープンウェイトモデル「Beam」を開発しました。パラメータ数は5010億で、今月後半にApache 2.0ライセンスの下で重みを公開する予定です。オープンウェイトとは、学習済みモデルを開発者がダウンロードし、自前のハードウェアで実行
Reflection AIは、コーディングやエージェントタスク向けのオープンウェイトモデル「Beam」を開発しました。パラメータ数は5010億で、今月後半にApache 2.0ライセンスの下で重みを公開する予定です。オープンウェイトとは、学習済みモデルを開発者がダウンロードし、自前のハードウェアで実行
AIアプリケーションは、1件のリクエストが消費できる計算資源やその他のリソースの量に対して有効な制御機構を欠いている場合、想定外のコストが積み上がってしまうことがあります。この大規模言語モデル(LLM)の脆弱性は「unbounded consumption(無制限消費)」と呼ばれ、暴走的な処理、サービス障害、モデル窃取