1月22日,上海電信聯(lián)合徐匯區(qū)政府共同舉辦“算力惠模都 萬兆連速城”人工智能公共算力服務(wù)產(chǎn)品發(fā)布會,在上海點亮“大規(guī)模算力集群暨人工智能公共算力服務(wù)平臺”,助推上海搶占全國算力發(fā)展制高點。
2024年上半年,中國電信將在上海規(guī)劃建設(shè)到達15000卡,總算力超4500P。其中,單池新建國產(chǎn)算力達萬卡,是國內(nèi)首個超大規(guī)模國產(chǎn)算力液冷集群。
該集群采用新一代國產(chǎn)AI算力,實現(xiàn)了全棧自主創(chuàng)新和技術(shù)突破,通過高速RDMA(遠程直接數(shù)據(jù)存取)連接各物理機節(jié)點,提供低延時、高吞吐量、無損通信網(wǎng)絡(luò)和強大的并行計算能力,是目前規(guī)模最大的全國產(chǎn)液冷機房,無論算力集群架構(gòu),還是機房建設(shè)水平,多項技術(shù)指標和創(chuàng)新突破均為全國第一。
據(jù)了解,該集群最高可支持萬億參數(shù)大模型,便于各科研院校、大模型訓練公司等機構(gòu)和企業(yè)實現(xiàn)物理資源獨享,無虛擬化損耗,滿足AI計算、深度學習、圖形渲染等復雜訓練任務(wù)對算力的要求。
此外,發(fā)布會當天,上海電信還發(fā)布了一系列人工智能公共算力服務(wù)產(chǎn)品,并正式在徐匯區(qū)“模速空間”啟用“雙萬兆接入暨一跳入算服務(wù)”,上海電信將為入駐企業(yè)提供雙萬兆網(wǎng)絡(luò)和“一跳入算”服務(wù),以及算力算網(wǎng)免費試用和優(yōu)惠商用資費。
“模速空間”是全國首個大模型專業(yè)孵化和加速載體、大模型創(chuàng)新高地和生態(tài)集聚區(qū)。上海電信為“模速空間”部署全球商用網(wǎng)絡(luò)中最快、基于50G PON和5G-A技術(shù)的雙萬兆網(wǎng)絡(luò),新一代 OTN網(wǎng)絡(luò)延伸入園,企業(yè)可申請專線帶寬從原先的1Gbps躍遷百倍,最高可達100Gbps。
同時,上海電信為入駐的大模型企業(yè)提供2Mbps~100Gbps帶寬的一跳入算服務(wù),從“模速空間”到位于臨港新片區(qū)的中國電信臨港智算中心,實現(xiàn)全光一跳直達,時延低至1ms,業(yè)務(wù)全程基于全光硬管道傳輸,端到端無擁塞,從而不再有傳統(tǒng)IP網(wǎng)絡(luò)抖動和丟包的困擾。
2021年,上海電信開始在青浦和臨港前瞻性布局“東西兩翼”智算中心,為此后洶涌而來的“算力風暴”奠定基座;2022年,上海電信在全球率先啟動“全城上云”,打造云網(wǎng)邊端安一體化的新一代綜合性智能化信息基礎(chǔ)設(shè)施——“智云上?!保厮艹鞘行戮W(wǎng)絡(luò);同年,上海電信宣布向社會提供公共算力服務(wù),讓算力像水、電資源一樣隨取隨用,成為國內(nèi)首個推出此服務(wù)的電信運營商。
2024年伊始,上海電信推出人工智能公共算力服務(wù)平臺以及一系列“人工智能公共算力服務(wù)產(chǎn)品”,包括智算產(chǎn)品、彈性算網(wǎng)、算力調(diào)度平臺和行業(yè)大模型等,從算力供給、算力輸送、算力調(diào)度、到模型訓練及推理應(yīng)用,為大模型企業(yè)提供一站式服務(wù)。
通過圖形加速型與計算加速型等不同類型的算力云主機,企業(yè)可在云端租賃算力,大幅減少了本地IT設(shè)備投入,降低企業(yè)使用算力的門檻。同時,為了破解算力資源利用率低和因為不同架構(gòu)、不同云商而導致的算力資源統(tǒng)籌難現(xiàn)象,中國電信還推出具備三跨四互聯(lián)特性的“息壤——全國算力一體化調(diào)度平臺”,協(xié)同社會算力資源,推動算力服務(wù)“普惠化”“泛在化”“標準化”,使算力成為社會新型基礎(chǔ)設(shè)施和基礎(chǔ)公共資源。
如今,通過覆蓋全城的雙萬兆網(wǎng)絡(luò)、邊緣云、萬卡智算中心和算力調(diào)度平臺,“智云上?!币呀?jīng)建成一張靈活普適、注智開放、綠色環(huán)保的城市高速光傳送網(wǎng)底座,為千行百業(yè)帶來全新確定性極致體驗,為上海打造算力時代的新一代信息基礎(chǔ)設(shè)施底座。
來源:上海電信報