SambaNova、オープンソースLLMのスピードと精度を比較できるSambaverseを発表 (2/5ページ)
しかし課題は、開発者がどのエキスパートモデルあるいはエキスパートモデルの組み合わせが、自分たちのユースケースに最適なのかわからないことです。現在存在する定量的なベンチマークは、モデルの品質を表していないため頼ることが出来ないのです。質的な評価こそが、どのモデルが適切かを選択する最良の方法なのです。」
「オープンソースのエキスパートモデルをテストする推論サービスもありますが、これからはマルチモーダルです。モデルの多様性とそれらを迅速に評価してワークフローを作成するために接続し、同時にアクセスする能力は、リアルタイム推論を達成する方法です。これまで、エキスパートの種類の豊富さと、これらのモデルをリアルタイムで同時評価する能力を提供するソリューションはありませんでした。Sambaverseは開発者コミュニティにとって非常に直感的な問題を解決します。
