算電協同、高密液冷、國產芯片……算力黑科技與創新應用一覽
當前,人工智能技術及生態迭代加快,大模型產品及應用層出不窮,對智能算力提出更強性能、更大規模、更低成本的需求。作為關鍵環節與核心底座,以智算中心為代表的智能算力基礎設施,呈現哪些創新技術與趨勢,多模態大模型發展如何,本文帶你一覽。
大模型不斷迭代創新
今年7月,中國信息通信研究院發布《全球數字經濟白皮書(2024年)》顯示,全球人工智能大模型共1328個。人工智能在很多領域里正在釋放潛力,可以應用到工業、醫療、能源、城市、交通等領域中。
從文字生成到圖片生成、視頻生成,大模型不斷迭代,由單模態像多模態發展,極大增加了智能算力需求,也給AI賦能千行百業帶來變革。
就在當地時間12月9日,OpenAI推出最新版本的視頻生成大模型Sora-Turbo。新版Sora可生成最高1080p分辨率、最長20秒、寬屏、豎屏或方形的視頻,用戶可以利用資源進行擴展、remix、融合,也可基于文本生成全新的內容。OpenAI開發了全新的UI界面,并提供故事板工具讓用戶可以精準地指定每個幀的輸入。目前新版Sora的單視頻平均生成價格約0.4美元,該公司CEOSam Altam表示“大家可以將Sora看作視頻版的GPT-1”。
業內人士認為,視頻生成模型在今年有了長足進展,因此Sora-Turbo上線相比首次發布時帶來的沖擊較弱。本次迭代上線在基礎模型能力上并沒有太多亮點,生成速度在分鐘級左右,估算相關算力成本并沒有降低。有大模型從業者表示,僅看技術指標,國內現有視頻生成模型并不比sora差。
智算崛起背后的用電挑戰
智算帶來驚人的能源消耗,帶來高額成本,更讓企業想不到的是,有一天“電從哪里來”成為新挑戰。
據中國信通院測算,截至2023年底,全球算力基礎設施總規模達到910EFLOPS(FP32),同比增長40%。美國、中國算力基礎設施規模位列前兩名,算力占比分別為32%、26%。高算力背后是高電力。擁GPT4.0訓練需要經過三個月,使用2.5萬塊GPU芯片,僅一次訓練就消耗了2.4億度電。在推理階段,大模型的耗電量同樣不容小覷。
為滿足新增能源需求及成本要求,美國科技企業盯上了核能直接向數據中心供電:
今年10月,谷歌宣布著手與核電企業簽署協議,爭取截至2030年起通過核電站實現快速安全供電,“這項協議將提供500兆瓦全天候無碳電力”。
日前,Mate發布征求建議書,表示計劃在2030年代初新增1-4GW的核能發電能力,并就此向有關核開發商尋求合作,以支持數據中心及其周邊供電的電網增長需求。
然而,這樣核電站直連數據中心供電的趨勢,已經引發一些美國電網公司反彈,并被美能源部門“重點關注”。
今年11月初,美國“核電廠+數據中心”的標桿性交易——被美國聯邦能源管理委員會否決,該交易涉及6.5億美元以上,能源公司Talen出售核電站旁的數據中心園區(960MW)給亞馬遜,并長期供應核電。
電力賣方直接與買方進行電力交易,無需通過電網,這種交易行為被形象的稱為“隔墻售電”。在中國,這樣的數據中心用電方式,正在被鼓勵。
8月6日,國家發展改革委、國家能源局和國家數據局聯合印發《加快構建新型電力系統行動方案(2024~2027年)》提到:數據中心通過建設配套可再生能源電站、與可再生能源發電企業直接開展電力交易等方式,降低運營成本,實現能源消費結構優化及東、西部電力資源互補和優化配置。
11月28日,國家能源局發布《關于支持電力領域新型經營主體創新發展的指導意見》,指出“新型經營主體原則上可豁免申領電力業務許可證,明確提出支持“隔墻售電”等新型電力交易模式。
綠色節能除了液冷還有這些
隨著GPU芯片快速演進,功率快速攀升,傳統的風冷模式很難滿足散熱需求,更高換熱效率的液冷正逐漸被數據中心和大模型企業接受。
這一背景下,成本與實施難度更低的冷板式液冷最先被IDC企業等接受,而由于GPU芯片的迅猛發展,散熱效率更高的浸沒式液冷也一改過去的“冷遇”,產業鏈上游、中游持續推出浸沒式液冷服務器、冷卻液等新品。
與此同時,在液冷之外,數據中心還開展了更精密空調、無水等綠色節能探索。
傳統數據冷卻系統采用水蒸發冷卻方式降低能源需求,微軟云服務部門此前介紹了下一代“0水蒸發數據中心設計”,采用新型芯片級冷卻解決方案,配備更高效水冷機,支持更高運行水溫,整體冷卻系統采用閉環水路,可實現服務器和冷卻器之間的冷卻水流循環,一旦在建設過程中填充完畢就無需新鮮水源填充。這樣的數據中心每年可節約1.25億升用水。
在自然資源適合的“東數西算”集群,亦有數據中心采用全變頻氟泵自然冷精密空調進行更節能的制冷。通過智慧控制系統,實施監測各參數性能,動態調整制冷模式,智能適應四季變化,實現最佳節能匹配。同時采用無水化設計,通過高效風側自然冷技術消除水資源的消耗。
更多技術創新與應用實踐,盡在IDCC2024【算力技術創新與應用論壇】


