TACCは世界トップクラスのスーパーコンピューターでトレーニングされたモデルをホストするためにSambaNova Suiteを導入し、研究プロセスにAI推論を統合

SC24、アトランタ、2024年11月18日—最もエネルギー効率の高いAIプロセッサ（注１）と最速の推論サービス（注２）を提供する生成AI企業のSambaNovaは、世界有数のスーパーコンピューティングセンターであるテキサス先端計算センター（TACC）が、科学研究アプリケーションのためのAI機能を強化するためにSambaNova Suiteを導入すると発表しました。TACCはSambaNova DataScaleシステムによって動作するSambaNova Suiteを導入し、革新的なComposition of Experts（CoE）フレームワークを通じて、高性能の生成推論サービスを提供します。

テキサス大学オースティン校の副学長兼テキサス先端計算センターの所長であるダン・スタンツィオーネ氏は「これはユーザーが私たちのコンピューティングサービスに期待する進化の次のステップです。私たちの使命は常に、科学者が必要とするフルコンピューティングエコシステムを提供することであり、それはよりインタラクティブでAIに依存するものに進化しています。私たちは科学コミュニティがコンピューティングとやり取りする方法に根本的な変化をもたらす可能性があると考えています」と述べています。

「私たちはTACCでヘテロジニアスコンピューティング環境を運用しています。SambaNovaは科学アプリケーションの推論のための私たちのプラットフォームになります。私たちは従来のスーパーコンピューターでトレーニングしたモデルをホストするためにSambaNova Suiteを使用し、科学ワークフローにAI推論を統合します」と続けます。

この組織はSambaNova Suite内のSambaNovaのComposition of Experts（CoE）フレームワークを活用して、SambaNovaインターフェイスから直接、またはAPIを介して一度に多数のAIモデルを使用できるようにしています。