2025年春節(jié)期間,京東(中原)算力中心上線了DeepSeek-R1,成為河南省第一個提供DeepSeek服務的城市級算力中心。
DeepSeek是計算效能和推理精度接近和趕超ChatGPT的國產大模型。受限于DeepSeek公司的算力不足和美國的攻擊封鎖,客戶使用過程中經常出現(xiàn)服務器繁忙和無法使用等問題,同時考慮數(shù)據(jù)保護需要,政府和企業(yè)使用更需要私有化和本地化部署。
為了更好地為金融、企業(yè)、政府等客戶提供數(shù)據(jù)不出域的私有化模型推理服務,在京東(中原)算力中心已經上線的業(yè)界領先的vGPU AI算力平臺的基礎上,實現(xiàn)本地化部署DeepSeek,使用戶不會受主站流量限制和美國封鎖,實現(xiàn)客戶數(shù)據(jù)私有化不出域,滿足企業(yè)級場景使用。
目前,京東已正式全面上線 DeepSeek-R1、DeepSeek-V3以及所有蒸餾小參數(shù)模型(DeepSeek-R1-Distill)模型,支持公有云在線部署、?;焖接谢瘜嵗渴饍煞N模式,供用戶按需部署,快速調用。針對資源緊缺的場景,京東支持通過蒸餾技術訓練企業(yè)自己的大模型,減少模型部署所需資源的同時具備較好的性能。使用京東vGPU AI算力平臺,可以將多個蒸餾過的企業(yè)自有模型部署在同一張卡上,有效提升資源利用率70%。
據(jù)悉,京東(中原)算力中心位于河南省鶴壁市示范區(qū),于2024年9月10日建成,由京東和鶴壁市政府合作共建,是京東私有云在中原地區(qū)的唯一運營中心,也是河南省算力基礎設施發(fā)展規(guī)劃“一核四極多點”總體布局打造的豫北區(qū)域算力增長極,輻射服務冀南等鄰近省份區(qū)域,致力于為鶴壁新質生產力構建和算力經濟發(fā)展增效賦能。
京東(中原)算力中心擁有先進的數(shù)據(jù)中心機房和高性能的服務器集群,算力中心可根據(jù)需求的動態(tài)變化,實施彈性伸縮策略,實現(xiàn)資源的自動擴容和縮減。目前已經有京東言犀大模型、DeepSeek大模型以及上海、深圳、鶴壁等地企業(yè)用戶的AI應用在算力中心高效運行。算力中心的建設獲得了廣泛關注,已累計接待省內外政府機構及企事業(yè)單位近500余人次的考察交流。
來源:云上鶴城