中國電信中部智算中心：算力就像水電煤氣——隨時隨地、即取即用

2024-04-28 湖北公司

登錄網(wǎng)站，點擊鼠標，人坐在實驗室里，就可以輕松將算法和數(shù)據(jù)傳到20多公里外的智算中心，開始大模型訓練。4月25日，在武漢大學智能感知與機器學習實驗室，智能交互方向負責人蔡賢濤教授向筆者介紹：“使用中國電信中部智算中心的算力進行多模態(tài)醫(yī)學大模型的開發(fā)訓練，就像網(wǎng)購一樣方便快捷?！?/p>

蔡教授和團隊成員們正在研發(fā)參數(shù)數(shù)據(jù)規(guī)模為13B的中文醫(yī)學多模態(tài)大模型，據(jù)他介紹：“這個項目的數(shù)據(jù)如果用普通的網(wǎng)絡(luò)傳的話，傳輸?shù)臅r間可能按月來計算了，但是我們用中國電信中部智算中心的平臺，幾天的時間就已經(jīng)把所有數(shù)據(jù)全部傳上去做訓練，做訓練的過程也是非常的平穩(wěn)、絲滑！”

良好的算力體驗，平穩(wěn)絲滑的感受，來自于中國電信中部智算中心的算力運力存力融合一體化、以高性能算力為主的多元算力基礎(chǔ)設(shè)施體系。通過強大的網(wǎng)絡(luò)運力，形成了一朵線上的算力云。一臺臺用于計算的服務(wù)器，都通過高性能網(wǎng)絡(luò)連接了起來，用戶只要有網(wǎng)絡(luò)，就可以遠程調(diào)用算力。計算的過程中，海量的數(shù)據(jù)也能平穩(wěn)高效地在服務(wù)器間傳輸。

據(jù)天翼云湖北分公司專家介紹：中國電信中部智算中心的液冷服務(wù)器采用RoCE協(xié)議，支持直接內(nèi)存訪問，具有高帶寬、低時延的特點，液冷區(qū)的計算節(jié)點間、計算與存儲節(jié)點之間均為200G互聯(lián)，風冷區(qū)通過IB技術(shù)組網(wǎng)，高帶寬、低時延，且穩(wěn)定性高，是目前用于GPU服務(wù)器的首選網(wǎng)絡(luò)互聯(lián)技術(shù)。計算節(jié)點之間的網(wǎng)絡(luò)鏈路為400G，計算節(jié)點與存儲節(jié)點間的鏈路為200G。高速網(wǎng)絡(luò)將 AI服務(wù)器、通算服務(wù)器、存儲服務(wù)器等通過交換機和路由聚合在一起，構(gòu)建一個統(tǒng)一的算力集群，再利用光纖和最先進的路由器接入到中國電信的網(wǎng)絡(luò)里面，用戶只要接入到互聯(lián)網(wǎng)，就可以像用水用電一樣隨時訪問、調(diào)取。

在今年全國人大會議期間，全國人大代表，湖北電信黨委書記、總經(jīng)理張敏建議，加快構(gòu)建全國一體化算力協(xié)同調(diào)度平臺，實現(xiàn)需求和供給的精準對接，讓算力像水電煤氣網(wǎng)一樣“隨時隨地、即取即用”。加快行業(yè)數(shù)據(jù)開放共享，發(fā)揮我國海量數(shù)據(jù)規(guī)模和豐富場景優(yōu)勢，通過多場景應(yīng)用、多元數(shù)據(jù)融合，以量變引發(fā)質(zhì)變，賦能現(xiàn)代化產(chǎn)業(yè)體系建設(shè)，推動新質(zhì)生產(chǎn)力勃發(fā)。