1月22日,上海電信聯(lián)合徐匯區(qū)政府共同舉辦“算力惠模都 萬兆連速城”人工智能公共算力服務(wù)產(chǎn)品發(fā)布會,在上海點(diǎn)亮“大規(guī)模算力集群暨人工智能公共算力服務(wù)平臺”,助推上海搶占全國算力發(fā)展制高點(diǎn)。
2024年上半年,中國電信將在上海規(guī)劃建設(shè)到達(dá)15000卡,總算力超4500P。其中,單池新建國產(chǎn)算力達(dá)萬卡,是國內(nèi)首個(gè)超大規(guī)模國產(chǎn)算力液冷集群。
該集群采用新一代國產(chǎn)AI算力,實(shí)現(xiàn)了全棧自主創(chuàng)新和技術(shù)突破,通過高速RDMA(遠(yuǎn)程直接數(shù)據(jù)存?。┻B接各物理機(jī)節(jié)點(diǎn),提供低延時(shí)、高吞吐量、無損通信網(wǎng)絡(luò)和強(qiáng)大的并行計(jì)算能力,是目前規(guī)模最大的全國產(chǎn)液冷機(jī)房,無論算力集群架構(gòu),還是機(jī)房建設(shè)水平,多項(xiàng)技術(shù)指標(biāo)和創(chuàng)新突破均為全國第一。
據(jù)了解,該集群最高可支持萬億參數(shù)大模型,便于各科研院校、大模型訓(xùn)練公司等機(jī)構(gòu)和企業(yè)實(shí)現(xiàn)物理資源獨(dú)享,無虛擬化損耗,滿足AI計(jì)算、深度學(xué)習(xí)、圖形渲染等復(fù)雜訓(xùn)練任務(wù)對算力的要求。
此外,發(fā)布會當(dāng)天,上海電信還發(fā)布了一系列人工智能公共算力服務(wù)產(chǎn)品,并正式在徐匯區(qū)“模速空間”啟用“雙萬兆接入暨一跳入算服務(wù)”,上海電信將為入駐企業(yè)提供雙萬兆網(wǎng)絡(luò)和“一跳入算”服務(wù),以及算力算網(wǎng)免費(fèi)試用和優(yōu)惠商用資費(fèi)。
“模速空間”是全國首個(gè)大模型專業(yè)孵化和加速載體、大模型創(chuàng)新高地和生態(tài)集聚區(qū)。上海電信為“模速空間”部署全球商用網(wǎng)絡(luò)中最快、基于50G PON和5G-A技術(shù)的雙萬兆網(wǎng)絡(luò),新一代 OTN網(wǎng)絡(luò)延伸入園,企業(yè)可申請專線帶寬從原先的1Gbps躍遷百倍,最高可達(dá)100Gbps。
同時(shí),上海電信為入駐的大模型企業(yè)提供2Mbps~100Gbps帶寬的一跳入算服務(wù),從“模速空間”到位于臨港新片區(qū)的中國電信臨港智算中心,實(shí)現(xiàn)全光一跳直達(dá),時(shí)延低至1ms,業(yè)務(wù)全程基于全光硬管道傳輸,端到端無擁塞,從而不再有傳統(tǒng)IP網(wǎng)絡(luò)抖動和丟包的困擾。
2021年,上海電信開始在青浦和臨港前瞻性布局“東西兩翼”智算中心,為此后洶涌而來的“算力風(fēng)暴”奠定基座;2022年,上海電信在全球率先啟動“全城上云”,打造云網(wǎng)邊端安一體化的新一代綜合性智能化信息基礎(chǔ)設(shè)施——“智云上?!?,重塑城市新網(wǎng)絡(luò);同年,上海電信宣布向社會提供公共算力服務(wù),讓算力像水、電資源一樣隨取隨用,成為國內(nèi)首個(gè)推出此服務(wù)的電信運(yùn)營商。
2024年伊始,上海電信推出人工智能公共算力服務(wù)平臺以及一系列“人工智能公共算力服務(wù)產(chǎn)品”,包括智算產(chǎn)品、彈性算網(wǎng)、算力調(diào)度平臺和行業(yè)大模型等,從算力供給、算力輸送、算力調(diào)度、到模型訓(xùn)練及推理應(yīng)用,為大模型企業(yè)提供一站式服務(wù)。
通過圖形加速型與計(jì)算加速型等不同類型的算力云主機(jī),企業(yè)可在云端租賃算力,大幅減少了本地IT設(shè)備投入,降低企業(yè)使用算力的門檻。同時(shí),為了破解算力資源利用率低和因?yàn)椴煌軜?gòu)、不同云商而導(dǎo)致的算力資源統(tǒng)籌難現(xiàn)象,中國電信還推出具備三跨四互聯(lián)特性的“息壤——全國算力一體化調(diào)度平臺”,協(xié)同社會算力資源,推動算力服務(wù)“普惠化”“泛在化”“標(biāo)準(zhǔn)化”,使算力成為社會新型基礎(chǔ)設(shè)施和基礎(chǔ)公共資源。
如今,通過覆蓋全城的雙萬兆網(wǎng)絡(luò)、邊緣云、萬卡智算中心和算力調(diào)度平臺,“智云上海”已經(jīng)建成一張靈活普適、注智開放、綠色環(huán)保的城市高速光傳送網(wǎng)底座,為千行百業(yè)帶來全新確定性極致體驗(yàn),為上海打造算力時(shí)代的新一代信息基礎(chǔ)設(shè)施底座。
來源:上海電信報(bào)