①一季度部分廠商租賃價(jià)格松動(dòng); ②以租賃形式滿足算力需求,是許多中小企業(yè)及研究機(jī)構(gòu)當(dāng)前的更為經(jīng)濟(jì)的選擇; ③線上AI訓(xùn)練相比實(shí)機(jī)運(yùn)算效率可能會(huì)有輕微降低。
《科創(chuàng)板日?qǐng)?bào)》4月2日訊(記者 郭輝) 在火爆的算力行業(yè),《科創(chuàng)板日?qǐng)?bào)》記者近日了解到,熱門算力卡英偉達(dá)A800的租賃價(jià)格僅需2元/時(shí),同時(shí)在經(jīng)過去年服務(wù)器租賃價(jià)格暴漲后,今年不同規(guī)格產(chǎn)品價(jià)格出現(xiàn)一定幅度下降。
多家算力租賃行業(yè)企業(yè)人士表示,今年一季度算力租賃供需仍然緊張。另有業(yè)內(nèi)人士分析稱,算力租賃市場供需結(jié)構(gòu)正在逐步調(diào)整,對(duì)于有AI計(jì)算需求的中小企業(yè)及研究機(jī)構(gòu)來說,成本投入將得到改善。
熱門算力卡租賃價(jià)格“打骨折” 有平臺(tái)月租費(fèi)僅千余元
近日,在某社交平臺(tái)用戶發(fā)帖稱,市場價(jià)格超10萬元的英偉達(dá)A800人工智能訓(xùn)卡,在某平臺(tái)租賃價(jià)格僅需2元/時(shí),引發(fā)關(guān)注。
據(jù)帖文稱,按調(diào)試訓(xùn)練一個(gè)大模型平均要1個(gè)月計(jì)算,每月2元/時(shí)租賃A800訓(xùn)練成本單卡僅需不到1440元,該價(jià)格僅為購買A800這款A(yù)I顯卡價(jià)格的1/69,并且無需承擔(dān)運(yùn)營數(shù)據(jù)中心、電費(fèi)等成本。
有評(píng)論表示,A800單卡線上租賃市價(jià)也就10元左右,但2塊確實(shí)是“骨折價(jià)”了。也有評(píng)論稱,這個(gè)價(jià)格“有促銷既視感,不知道跟進(jìn)卷的還有哪家”。
《科創(chuàng)板日?qǐng)?bào)》記者登錄帖文指向的SCNet國家超算互聯(lián)網(wǎng)官網(wǎng),看到一款服務(wù)器配備8個(gè)英偉達(dá)A800加速卡、顯存為80GB,處理器為2個(gè)Intel 8458P 44C,其價(jià)格為2元/時(shí)。
據(jù)了解,SCNet國家超算互聯(lián)網(wǎng)是一家以互聯(lián)網(wǎng)思維運(yùn)營超算,并連接產(chǎn)業(yè)生態(tài)中的算力供給、應(yīng)用開發(fā)、運(yùn)營服務(wù)、用戶等各方,構(gòu)建一體化超算算力網(wǎng)絡(luò)和服務(wù)平臺(tái)。該平臺(tái)于2023年4月成立工作推進(jìn)組、總體專家組以及超算互聯(lián)網(wǎng)聯(lián)合體,并于去年11月啟動(dòng)公測。
《科創(chuàng)板日?qǐng)?bào)》記者今日(4月2日)以企業(yè)人員身份與平臺(tái)客服取得聯(lián)系,該客服表示,按照平臺(tái)規(guī)則,單張A800卡租賃價(jià)格確實(shí)是2元/時(shí),但單人可申請(qǐng)卡的最大數(shù)量和單作業(yè)運(yùn)行時(shí)間有一定限制,不過已基本可以滿足90%以上用戶AI計(jì)算需求。
“租賃AI卡用戶,超90%的都是對(duì)已成熟大模型進(jìn)行‘微調(diào)’,13B參數(shù)量級(jí)別的大模型有一兩張A800卡幾天時(shí)間就可完成微調(diào)。”該客服進(jìn)一步表示,如果用戶需要長時(shí)間租賃大量AI算力進(jìn)行“全參數(shù)微調(diào)”,平臺(tái)也有充足國產(chǎn)AI卡支持并行計(jì)算需求,并會(huì)給到一個(gè)合適的價(jià)格。
算力卡租賃真成“白菜價(jià)”了嗎?對(duì)此,有產(chǎn)業(yè)人士提醒,線上AI訓(xùn)練相比實(shí)機(jī)運(yùn)算效率可能會(huì)有輕微降低, 但相比直接購買英偉達(dá)專業(yè)顯卡所需的高額成本,以租賃形式滿足算力需求,仍是許多中小企業(yè)及研究機(jī)構(gòu)當(dāng)前的更為經(jīng)濟(jì)的選擇。
一名業(yè)內(nèi)人士向《科創(chuàng)板日?qǐng)?bào)》記者表示,“現(xiàn)階段看,購買AI算力設(shè)施企業(yè)和租賃AI企業(yè)規(guī)模其實(shí)是不一樣的。直接買A800卡的大部分都是頭部企業(yè),追求的是領(lǐng)先創(chuàng)新能力。而租賃AI卡企業(yè),則是希望在細(xì)分AI賽道取得一定進(jìn)展,或是高校研究機(jī)構(gòu)進(jìn)行實(shí)驗(yàn)。
另一家算力租賃服務(wù)企業(yè)人士告訴《科創(chuàng)板日?qǐng)?bào)》記者,一臺(tái)搭載8卡A800的服務(wù)器月均價(jià)在4.6萬元左右,A100的租賃價(jià)格會(huì)更便宜一些。對(duì)比潤六尺類似配置的A800服務(wù)器,一年期價(jià)格在88000/月/臺(tái)。
“因?yàn)槿斯ぶ悄鼙容^火,這個(gè)價(jià)格在行業(yè)內(nèi)相對(duì)算是很有性價(jià)比了?!鄙鲜鋈耸糠Q,“今年市場對(duì)算力租賃的需求依然很高?!?/p>
一季度部分廠商算力租賃價(jià)格松動(dòng) 供需依然緊張
AI的火熱讓算力租賃在過去一年里成為一項(xiàng)熱門生意。與通用云計(jì)算服務(wù)相比,算力租賃具備配置靈活度高、成本低等優(yōu)勢。去年開始,多家上市企業(yè)購置專業(yè)算力顯卡布局算力租賃業(yè)務(wù),服務(wù)價(jià)格也水漲船高。
在2023年,據(jù)不完全統(tǒng)計(jì),已有中貝通信、匯納科技、恒潤股份、鴻博股份、真視通、青云科技等多家A股公司大規(guī)模采購GPU并開展對(duì)外算力服務(wù)器租賃業(yè)務(wù)。
“目前來看,服務(wù)器租賃供需還是比較緊張。”中貝通信證券部工作人員表示,該公司去年簽訂多份AI算力服務(wù)訂單,現(xiàn)在算力中心已經(jīng)有部分在投入使用了?!叭ツ旯痉?wù)器有一部分在漲價(jià),但是在根據(jù)市場供需以及客戶情況調(diào)整,報(bào)價(jià)也是一客一議”。
另一家提供算力服務(wù)的上市公司人士也向《科創(chuàng)板日?qǐng)?bào)》記者表示,目前算力服務(wù)價(jià)格和價(jià)格趨勢都不便透露,但從市場供需關(guān)系來看,整個(gè)市場降價(jià)的可能性都不大。
不過隨著供需結(jié)構(gòu)逐步調(diào)整、廠商對(duì)大模型訓(xùn)練成熟,仍有部分市場開始出現(xiàn)松動(dòng)。
一家中等規(guī)模的算力服務(wù)公司人士向《科創(chuàng)板日?qǐng)?bào)》記者表示,近期跟今年年初相比,服務(wù)器平均租賃價(jià)格確實(shí)有所下降。“去年價(jià)格漲得確實(shí)比較高了,今年我們機(jī)房集群會(huì)根據(jù)行情陸續(xù)采購,或者就現(xiàn)有規(guī)模做資源規(guī)劃,價(jià)格還是看之后的供需。”
另有產(chǎn)業(yè)界人士稱,去年AI產(chǎn)業(yè)概念持續(xù)火爆,2024年春節(jié)后AI卡租賃市場行情相比年初卻有微降。這源于兩方面,首先是擁有大量算力的平臺(tái)正不斷完善服務(wù)能力,增加算力供給,其次是伴隨眾多大模型開源,已讓不少企業(yè)選擇在成熟模型基礎(chǔ)上進(jìn)行“微調(diào)”訓(xùn)練,階段性降低了算力需求。
算力租賃火熱,一定程度受限于外部市場環(huán)境因素。專精特新企業(yè)高質(zhì)量發(fā)展促進(jìn)工程執(zhí)行主任袁帥表示,如果市場競爭加劇,或者技術(shù)進(jìn)步導(dǎo)致投入制造成本降低,那么專業(yè)卡的降價(jià)空間可能會(huì)進(jìn)一步增大。
未來如何避免產(chǎn)業(yè)資源空耗、進(jìn)一步提高投入產(chǎn)出比,國內(nèi)算力租賃需考慮向更高附加值的運(yùn)營服務(wù)方向轉(zhuǎn)型。中泰證券研報(bào)認(rèn)為,算力租賃基于硬件資源的按需租賃和按量付費(fèi)模式,面對(duì)激烈算力租賃競爭,多元算力融合成為關(guān)鍵,算力市場將更加重視輔助運(yùn)營服務(wù),從提供硬件資源逐步轉(zhuǎn)變?yōu)樘峁┧懔Ψ?wù)。