①上海調(diào)度平臺將進一步降低創(chuàng)新成本,更精準(zhǔn)地把供需雙方進行匹配,融合調(diào)度多方的算力資源,來支撐整個大模型生態(tài)。 ②上海儀電已經(jīng)投產(chǎn)了多個“大規(guī)模、高等級”萬卡智算集群,后續(xù)將進一步擴大算力規(guī)模。
《科創(chuàng)板日報》3月5日訊(記者 黃心怡)為降低人工智能中小企業(yè)創(chuàng)新成本,在上海市經(jīng)濟信息化委指導(dǎo)下,上海儀電將牽頭建設(shè)上海市智能算力資源統(tǒng)籌調(diào)度服務(wù)平臺(以下簡稱“上海調(diào)度平臺”),平臺旨在通過精準(zhǔn)匹配多方供需,融合調(diào)度各方資源,支撐和繁榮上海大模型創(chuàng)新生態(tài)。
上海調(diào)度平臺將包含算力超市、算力納管、算力融合等主要功能板塊。算力超市核心定位為“構(gòu)建算力交易生態(tài),促成供需多邊交易”,包括算力產(chǎn)品商城、算力招標(biāo)市場等兩部分。算力納管核心定位為“匯總監(jiān)測、計費、資源統(tǒng)計等數(shù)據(jù),實現(xiàn)算力的統(tǒng)籌調(diào)度”,包括交易直連、監(jiān)控計費數(shù)據(jù)上報、可視化數(shù)據(jù)分析等三部分。算力融合核心定位為異構(gòu)異域算力資源管理和調(diào)度,包括算力調(diào)度、任務(wù)調(diào)度、算力補貼閉環(huán)管理三部分。
近日,在由上海儀電主辦,上海儀電旗下上海智能算力科技有限公司(以下簡稱“智算科技”)與云賽智聯(lián)股份有限公司聯(lián)合承辦的“智算擎產(chǎn)業(yè)·垂類啟新章”專場活動上,上海市智能算力資源統(tǒng)籌調(diào)度服務(wù)平臺生態(tài)合作伙伴與算力合作伙伴共建簽約儀式順利舉行。智算科技攜手云賽智聯(lián)、無問芯穹、基流科技、庫帕思、硅基流動、清程極智、奇岱松、松應(yīng)科技、智能汽車創(chuàng)新發(fā)展平臺等9家創(chuàng)新企業(yè),進行了平臺生態(tài)合作聯(lián)盟共建簽約。智算科技還攜手上海電信、上海移動、上海聯(lián)通、阿里云、商湯科技、碳和科技、上海算豐、世紀(jì)利通等8家算力合作伙伴,進行了算力合作伙伴共建簽約。
智算科技總經(jīng)理孫躍對記者表示,DeepSeek的成功充分體現(xiàn)了創(chuàng)新生態(tài)對產(chǎn)業(yè)發(fā)展的重要作用。作為國資功能性平臺企業(yè),智算科技既要支撐好基礎(chǔ)大模型的發(fā)展,也要服務(wù)好中小微企業(yè)和垂類應(yīng)用。統(tǒng)籌全社會閑散算力資源,以低成本、普惠化算力厚植生態(tài)創(chuàng)新沃土、繁榮大模型創(chuàng)新生態(tài),支撐中小企業(yè)、開源社區(qū)乃至個人開發(fā)者的研究探索,是上海調(diào)度平臺的定位?!拔覀冊谑薪?jīng)信委等相關(guān)政府職能部門的指導(dǎo)和支持下,進一步把算力資源在相對統(tǒng)一的平臺上進行調(diào)度和資源統(tǒng)籌,進一步解決供需匹配問題,提高算力使用的效率、降低企業(yè)創(chuàng)新成本?!?/p>
通用或行業(yè)大模型的研發(fā)訓(xùn)練和部署都離不開大量的算力支撐,但對于中小企業(yè)和初創(chuàng)企業(yè)來說,這是一筆不小的負(fù)擔(dān)。
“如果能降低企業(yè)算力成本,創(chuàng)新就會更加活躍。我們希望通過上海調(diào)度平臺來進一步降低創(chuàng)新成本,更精準(zhǔn)地把供需雙方進行匹配,融合調(diào)度多方的算力資源,來支撐整個大模型生態(tài)。這既涉及到算力供給企業(yè),也涉及到參與整個調(diào)度平臺的相關(guān)技術(shù)開發(fā)的企業(yè)?!睂O躍稱。
談及大模型所引發(fā)的算力需求風(fēng)暴,孫躍表示,自百模大戰(zhàn)以來,在2023年至2024年,訓(xùn)練算力占據(jù)了算力需求的很大部分。如今,隨著大模型往不同的垂類行業(yè)滲透,推理需求也在快速增長。“這是一個非常明顯且重要趨勢,像DeepSeek采用自我博弈和多輪強化學(xué)習(xí)實現(xiàn)自我優(yōu)化,訓(xùn)練過程中間也會采用很多生成的數(shù)據(jù),導(dǎo)致其在訓(xùn)練過程中也會用到大量推理算力?!?
春節(jié)期間,DeepSeek在全球范圍內(nèi)迅速爆火出圈,孫躍的一大感受是各個行業(yè)都在積極接入DeepSeek平臺,進一步帶動對推理算力的需求。
“需要指出的是,算力需求本質(zhì)上仍是訓(xùn)推相結(jié)合的市場,而不是簡單地劃分為訓(xùn)練算力和推理算力。訓(xùn)練算力依然有需求。而且從目前的趨勢來看,算力依然是符合scaling law規(guī)則,符合規(guī)模效應(yīng),依然繼續(xù)在增長。但因為行業(yè)應(yīng)用打開了,會帶來推理需求的快速增長。”孫躍強調(diào)。
而 Deepseek大模型的成功對算力并非利空,反而有諸多促進算力需求增長的因素。
“DeepSeek擁有非常強的工程能力,確實提高了算力使用的效率。但前提條件還是必須得有足夠的算力,這樣提升算力效率才有意義。并非DeepSeek大模型出現(xiàn)后,算力就不那么重要了。因此,對智算中心來說,需要更好地提升整體資源統(tǒng)籌調(diào)度和服務(wù)能力。目前正在做的上海調(diào)度平臺,就是希望把運營商、云廠商、其他廠商的算力資源可以運用起來,進一步提高使用效率,讓供需雙方更好地實現(xiàn)資源調(diào)配?!睂O躍認(rèn)為。
據(jù)悉,上海儀電已經(jīng)投產(chǎn)了多個“大規(guī)模、高等級”萬卡智算集群。談及后續(xù)規(guī)劃,孫躍稱會進一步擴大算力規(guī)模?!澳康氖菫榱朔犀F(xiàn)在產(chǎn)業(yè)發(fā)展的趨勢,更好地支撐上海乃至長三角的創(chuàng)新生態(tài),服務(wù)企業(yè)、科研機構(gòu)的算力需求?!?/p>
集群建設(shè)方面,儀電智算云率先實現(xiàn)了對國產(chǎn)智算芯片的異構(gòu)納管,全面支持沐曦、壁仞、天數(shù)、華為等智算芯片的軟硬件適配。算力效率方面,支持容器化調(diào)度和大模型自動續(xù)訓(xùn),有效訓(xùn)練時間占比達(dá)99%以上。應(yīng)用部署方面,支撐了階躍星辰Step、書生浦語、商湯日日新、MiniMax ABAB、DeepSeek、Llama3、通義千問等大模型的高效部署和加速,并內(nèi)置“一站式”模型研發(fā)平臺。
“國產(chǎn)芯片和英偉達(dá)的區(qū)別主要在軟件生態(tài)上。這不光是芯片企業(yè)要努力的,我們也希望發(fā)揮平臺作用,把上下游軟件和硬件都能夠整合起來,打造一個全棧的國產(chǎn)生態(tài),更好地服務(wù)大模型行業(yè)?!睂O躍表示。
