2025年02月26日 14:00:51
第四范式推出大模型推理一體機(jī)解決方案
《科創(chuàng)板日?qǐng)?bào)》26日訊,第四范式今日推出大模型推理一體機(jī)解決方案SageOne IA,進(jìn)一步減低了大模型推理成本。如滿血版的DeepSeek V3/R1僅需要兩臺(tái)一體機(jī)即可使用。此外,一體機(jī)解決方案還集成了智能算力池化技術(shù),在支持DeepSeek V3/R1、QWen2.5、LLama3.3等主流大模型的基礎(chǔ)上,企業(yè)可在滿血版和多個(gè)蒸餾模型之間切換,GPU利用率提升30%以上,推理性能平均提升5-10倍;同時(shí)內(nèi)置大模型應(yīng)用開發(fā)平臺(tái),并搭載開箱即用AI應(yīng)用套件。
收藏
262.52W
我要評(píng)論
歡迎您發(fā)表有價(jià)值的評(píng)論,發(fā)布廣告和不和諧的評(píng)論都將會(huì)被刪除,您的賬號(hào)將禁止評(píng)論。
發(fā)表評(píng)論
關(guān)聯(lián)話題
7720 人關(guān)注