又大又粗又爽免费视频A片,国产精品国产对白熟妇,欧洲欧洲黄页网址免费,自怕偷自怕亚洲精品

CN
EN
您現(xiàn)在的位置:首頁 >> 關于DCN >> 新聞資訊
全國算力一體化建設步入“深水區(qū)”,服務器智能水平成關鍵要素丨算力網(wǎng)風云⑧ 2024-05-30

全國一體化算力網(wǎng)建設加速,服務器市場規(guī)模預計2023年達91億美元,2027年達134億美元。

在數(shù)字經(jīng)濟潮涌與大模型井噴的時代,算力正如水、電一般,逐日成為現(xiàn)代社會賴以生存的稀缺資源。可以說,誰擁有了算力的主導權,誰就捏住了面向人工智能的頭等船票。

這樣的時代巨浪下,我國的算力也已步入高速發(fā)展新階段。在此過程中,構建全國一體化算力網(wǎng),更是應對新一輪科技革命和產(chǎn)業(yè)變革的重要舉措。而在進行全國“算力網(wǎng)”的布局中,存在不同的市場主體角色,包括阿里、華為、電信運營商乃至其他算力服務商,都有自己的主張。

就此,21世紀經(jīng)濟報道推出“算力網(wǎng)風云”系列報道,圍繞中國算力一體化體系建設現(xiàn)狀、難點與堵點、產(chǎn)業(yè)鏈機會等進行全方位解讀。在對國內(nèi)算力網(wǎng)現(xiàn)狀進行5篇稿件解讀后,接下來的系列稿件將重點關注算力上中下游產(chǎn)業(yè)鏈企業(yè)如何參與一體化算力網(wǎng)建設,以及隨著全國一體化算力網(wǎng)建設鋪開,相關產(chǎn)業(yè)鏈未來的發(fā)展空間、投資機會。

算力產(chǎn)業(yè)鏈系列稿的第三篇、亦即專題第八篇稿件重點關注服務器產(chǎn)業(yè)鏈。在全國算力一體化建設的背景下,算力服務器正在扮演著至關重要的角色。傳統(tǒng)算力服務器如何更好地迎合當下大模型的海量需求,仍是一個值得產(chǎn)業(yè)界思考的命題。

21世紀經(jīng)濟報道記者張梓桐 上海報道

在全國算力一體化建設的背景下,算力服務器正在扮演著至關重要的角色。

一方面,作為提供計算資源的核心設備,算力服務器是實現(xiàn)全國算力一體化的基礎。通過集中或分布式部署,算力服務器為各種應用和服務提供必要的計算能力。另一方面,在全國算力一體化的體系中,算力服務器可以作為算力調度的中心節(jié)點,根據(jù)需求動態(tài)分配和調整計算資源,以滿足不同地區(qū)和行業(yè)的計算需求。

與此同時,在AI訓練需求快速上升的背景下,服務器市場規(guī)模也在快速擴張。IDC預計,2023年中國人工智能服務器市場規(guī)模將達到91億美元,同比增長82.5%;2027年將達到134億美元,年均復合增長率為21.8%。

但在全國一體化算力網(wǎng)建設規(guī)劃下,傳統(tǒng)算力服務器也面臨著新的升級需求。

神州數(shù)碼信創(chuàng)業(yè)務集團計算產(chǎn)品線總經(jīng)理吳艷偉在接受21世紀經(jīng)濟報道記者采訪時表示,算力需求的波動性算力需求會呈現(xiàn)峰值和低谷,需要數(shù)據(jù)中心能夠靈活應對這種需求波動。例如,在特定事件(如春節(jié))期間,某些地區(qū)的算力需求會急劇上升。而在這一背景下,就對數(shù)據(jù)中心自動化和智能化運維水平提出了極高的要求。

在他看來,未來為了應對算力需求的波動,數(shù)據(jù)中心需要自動化和智能化的運維工具,以實現(xiàn)算力的快速調度和優(yōu)化,同時保證安全性和實現(xiàn)預測性維護。

一體化算力網(wǎng)建設

2023年12月,國家發(fā)展改革委、國家數(shù)據(jù)局會同有關部門聯(lián)合印發(fā)《深入實施“東數(shù)西算”工程 加快構建全國一體化算力網(wǎng)的實施意見》(簡稱“實施意見”)。

“文件印發(fā)以來,我們統(tǒng)籌優(yōu)化算力資源配置。加快建設全國一體化算力網(wǎng),推動通用算力、智能算力、超級算力等多源異構算力的協(xié)同發(fā)展,促進各類新增算力向國家樞紐節(jié)點集聚。在構建跨域算力調度體系方面,國家數(shù)據(jù)局正在推動建立八大樞紐節(jié)點和十大數(shù)據(jù)中心集群算力發(fā)展情況一本賬,以十大集群為核心,推動算力資源混合部署和統(tǒng)一調度。”國家發(fā)展改革委黨組成員、國家數(shù)據(jù)局局長劉烈宏在近期舉辦的新聞發(fā)布會上總結道。

但與此同時,劉烈宏也指出,在算力資源分布等方面仍有多種問題需要解決。其中關鍵的難題在于“算力網(wǎng)絡”的編織工作仍未完成。

“目前我國在跨區(qū)域、多層次算力高速直連網(wǎng)絡尚未完全建立,大規(guī)模網(wǎng)絡流量資費較高,一定程度上阻礙了西部有效承接東部算力需求。算力與電力系統(tǒng)協(xié)同發(fā)展水平亟待加強。數(shù)據(jù)中心能效管理、綠色評價機制設計等方面有待優(yōu)化提升,源網(wǎng)荷儲新型電力系統(tǒng)尚未得到很好應用。數(shù)據(jù)中心集群安全防護水平有待進一步提升。統(tǒng)一集約化的數(shù)據(jù)中心安全防范體系尚未完全建立,一體化安全保障服務能力仍需加強。”劉烈宏說道。

事實上,圍繞上述問題政策也在發(fā)力布局。日前,為進一步推動算力服務器市場結構的新舊更替,為液冷、整機柜等新型技術產(chǎn)品提供更大的發(fā)展空間。工信部、國家發(fā)展改革委、財政部等六部門聯(lián)合發(fā)布《工業(yè)能效提升行動計劃》,其中指出,東數(shù)西算”工程中,要求內(nèi)蒙古、貴州、甘肅、寧夏4處樞紐設立的數(shù)據(jù)中心集群PUE控制在1.2以內(nèi);京津冀、長三角、粵港澳大灣區(qū)、成渝樞紐設立的數(shù)據(jù)中心集群PUE控制在1.25以內(nèi)。

而在實際執(zhí)行中,各地采取了更為嚴格的能效標準。比如北京規(guī)定新建和改擴建智算中心PUE值一般不超過1.25,年能耗超過3萬噸標煤的大規(guī)模先進智算中心PUE值一般不超過1.15。更為嚴格的PUE約束,將讓數(shù)據(jù)中心運營商對于液冷、整機柜等高能效的技術方案的傾向性進一步增強。浪潮信息在液冷領域已經(jīng)處于領先優(yōu)勢。根據(jù)IDC數(shù)據(jù),中國液冷服務器市場在2023年銷售額同比增長48.0%,預計2023-2028年市場年復合增長率將達到45.8%。2023年,浪潮信息市場份額 36.8%,排名第一。

算力服務器異構單元挑戰(zhàn)

從技術角度來看,AI大模型對于算力服務器提出了無窮盡的需求。

“如果說千億參數(shù)是大模型智能涌現(xiàn)的門檻,那么萬卡則是AI系統(tǒng)設計的起點,對目前計算機系統(tǒng)提出了全面的挑戰(zhàn)。”

首當其沖的挑戰(zhàn)就是計算資源不足,浪潮信息相關負責人表示,AI系統(tǒng)的性能主要源于GPU等加速器,AI需要計算機系統(tǒng)具有強大的異構擴展能力,但是傳統(tǒng)的計算機體系結構限制了異構加速器的擴展性。

“加速計算模塊一直被作為CPU的配屬單元,依靠PCI-e總線接入系統(tǒng),只支持有限數(shù)量的異構單元,并且同CPU的通信帶寬也十分有限,因而CXL、NVlink等下一代總線技術發(fā)展迅速。”

而在大模型的互聯(lián)方面,該負責人表示,當前AI訓練集群已經(jīng)從千卡、增長到萬卡、十萬卡,節(jié)點間的并行產(chǎn)生大量的通信需求。

相關數(shù)據(jù)顯示,當前張量并行頻率有28.4次/S,需要帶寬194GB/S,網(wǎng)絡的延遲和帶寬不足使得計算單元經(jīng)常因為等待數(shù)據(jù)而空閑,嚴重限制了集群效率。例如GPT-4的集群有2.5萬塊GPU,效率32%-36%,非常低,但在當前技術條件下幾乎觸頂。

在算法效率方面,由于AI訓練是一個超級復雜的計算系統(tǒng),算法結構與硬件結構匹配不合理、并行化處理不科學等都會導致整個計算平臺的利用率偏低。

除此之外,智能算力需求的擴大也導致算力服務器面臨巨大能效壓力,當前單顆AI芯片的功耗已經(jīng)突破2700W,單機柜AI服務器的功耗已經(jīng)突破100KW,這樣的熱功率密度幾乎超越了風冷的物理極限。而且國家“雙碳”戰(zhàn)略背景下,AI的能效挑戰(zhàn)越來越大,不論技術、經(jīng)濟還是政策層面看,數(shù)據(jù)中心的液冷化是大勢所趨。

巨大業(yè)務機遇

在上述問題的驅動下,算力服務器也在呈現(xiàn)出一些新的發(fā)展趨勢。

首先,底層的體系結構創(chuàng)新迎來黃金時代。傳統(tǒng)以CPU為中心的體系結構明顯不能適應人工智能的計算需求,以數(shù)據(jù)為中心,基于CXL、NVlink等下一代總線技術的新一代體系結構發(fā)展迅速。

與此同時,系統(tǒng)創(chuàng)新越來越重要。單顆芯片性能提升受限,而AI對于大算力的追求永無止境。因此,AI計算系統(tǒng)只能集成越來越多的芯片來獲得大算力,AI計算集群的設計起點已經(jīng)達到了萬卡級別。大規(guī)模計算系統(tǒng)中,互連、算法等關系整體效率的工作越來越重要,芯片的重要性反而在不斷下降。

“智算節(jié)點內(nèi)的P2P高速互連距離是非常有限的,最多能做到1-2個機柜之間的高速互連,所以AI計算必然走向高密度。同時,GPU的功耗越來越高,比如英偉達最新的GB200超級芯片(集成了一顆CPU、2顆GPU)最大功耗達到了2700W,高密度部署與高功耗芯片疊加,一方面使得智算服務器從傳統(tǒng)機架向整機柜升級,從單臺服務器交付向整機柜一體化交付升級,另一方面使得單機柜功率迅速提升從當前的12-16千瓦走到120千瓦,散熱將逐漸走向液冷。AI計算、液冷和整機柜的結合將成為未來趨勢。”上述浪潮負責人說道。

此外需要指出的是,在算力一體化布局下,服務器產(chǎn)業(yè)鏈公司也隨之迎來了相關發(fā)展機遇。

吳艷偉表示,隨著技術的發(fā)展,數(shù)據(jù)中心的運維正在更加智能,包括預測性維護和故障自愈能力,以提高運營效率和可靠性。

除此之外,一體化算力網(wǎng)的建設也進一步顛覆了算力業(yè)務的傳統(tǒng)商業(yè)模式。

吳艷偉告訴21世紀經(jīng)濟報道記者,當前算力的傳統(tǒng)業(yè)務模式如單純銷售服務器硬件等,正在向提供算力租賃等新服務模式轉變。這種模式允許不具備建設大型數(shù)據(jù)中心能力的機構,如高校、研究所和創(chuàng)新企業(yè),通過租用算力來滿足其高端計算需求。“未來,算力租賃有望作為一種新的商業(yè)模式,允許在算力需求高峰期將算力調度到需求高的地區(qū)或行業(yè),從而提高資源利用效率。”吳艷偉說道。

(作者:張梓桐 編輯:楊清清)

上一條:KunTai生態(tài)圈丨神州鯤泰與廈門暢寶科技完成產(chǎn)品互認證 下一條:KunTai生態(tài)圈丨神州鯤泰與廈門四方德信完成產(chǎn)品互認證
刪除所選 共計0件 提交訂單
已成功加入購物車!