2025年春節(jié)期間,京東(中原)算力中心上線了DeepSeek-R1,成為河南省第一個(gè)提供DeepSeek服務(wù)的城市級(jí)算力中心。
DeepSeek是計(jì)算效能和推理精度接近和趕超ChatGPT的國產(chǎn)大模型。受限于DeepSeek公司的算力不足和美國的攻擊封鎖,客戶使用過程中經(jīng)常出現(xiàn)服務(wù)器繁忙和無法使用等問題,同時(shí)考慮數(shù)據(jù)保護(hù)需要,政府和企業(yè)使用更需要私有化和本地化部署。
為了更好地為金融、企業(yè)、政府等客戶提供數(shù)據(jù)不出域的私有化模型推理服務(wù),在京東(中原)算力中心已經(jīng)上線的業(yè)界領(lǐng)先的vGPU AI算力平臺(tái)的基礎(chǔ)上,實(shí)現(xiàn)本地化部署DeepSeek,使用戶不會(huì)受主站流量限制和美國封鎖,實(shí)現(xiàn)客戶數(shù)據(jù)私有化不出域,滿足企業(yè)級(jí)場景使用。
目前,京東已正式全面上線 DeepSeek-R1、DeepSeek-V3以及所有蒸餾小參數(shù)模型(DeepSeek-R1-Distill)模型,支持公有云在線部署、?;焖接谢瘜?shí)例部署兩種模式,供用戶按需部署,快速調(diào)用。針對(duì)資源緊缺的場景,京東支持通過蒸餾技術(shù)訓(xùn)練企業(yè)自己的大模型,減少模型部署所需資源的同時(shí)具備較好的性能。使用京東vGPU AI算力平臺(tái),可以將多個(gè)蒸餾過的企業(yè)自有模型部署在同一張卡上,有效提升資源利用率70%。
據(jù)悉,京東(中原)算力中心位于河南省鶴壁市示范區(qū),于2024年9月10日建成,由京東和鶴壁市政府合作共建,是京東私有云在中原地區(qū)的唯一運(yùn)營中心,也是河南省算力基礎(chǔ)設(shè)施發(fā)展規(guī)劃“一核四極多點(diǎn)”總體布局打造的豫北區(qū)域算力增長極,輻射服務(wù)冀南等鄰近省份區(qū)域,致力于為鶴壁新質(zhì)生產(chǎn)力構(gòu)建和算力經(jīng)濟(jì)發(fā)展增效賦能。
京東(中原)算力中心擁有先進(jìn)的數(shù)據(jù)中心機(jī)房和高性能的服務(wù)器集群,算力中心可根據(jù)需求的動(dòng)態(tài)變化,實(shí)施彈性伸縮策略,實(shí)現(xiàn)資源的自動(dòng)擴(kuò)容和縮減。目前已經(jīng)有京東言犀大模型、DeepSeek大模型以及上海、深圳、鶴壁等地企業(yè)用戶的AI應(yīng)用在算力中心高效運(yùn)行。算力中心的建設(shè)獲得了廣泛關(guān)注,已累計(jì)接待省內(nèi)外政府機(jī)構(gòu)及企事業(yè)單位近500余人次的考察交流。
來源:云上鶴城