一、引述
隨著數據中心技術的發展與演進,新型數據中心不斷涌現,如智能計算數據中心等。與傳統數據中心相比,新型數據中心具有高技術、高算力、高能效、高安全等特征,更能有效支撐經濟社會的數字轉型。所謂智能計算數據中心,是指基于GPU、FPGA等芯片構建智能計算服務器集群,提供智能算力的基礎設施。主要應用于多模態數據挖掘、智能化業務高性能計算、海量數據分布式存儲調度、人工智能模型開發、模型訓練和推理服務等場景。智能計算數據中心的新型數據中心的出現,得益于GPU、FPGA、NPU等芯片技術被引入到服務器中。
欲詳細了解數據中心介紹的請進入。
圖形處理單元(GPU,Graphics Processing Unit)是一種專門用于圖形處理的芯片,它通常包含數百個小型處理核心,可以并行地執行大量數據密集型計算任務。GPU最初是為了處理3D圖形而設計的,但現在已經廣泛應用于科學計算、機器學習、人工智能等領域。GPU通常具有高吞吐量和并行性能,但功耗較高且需要大量數據并行化才能發揮最大性能。
欲更多了解英偉達的數據中心用GPU性能參數介紹的請進入。
現場可編程門陣列(FPGA,Field Programmable Gate Array)是一種可編程邏輯芯片,它可以被重新編程以執行特定的任務。FPGA由大量的可編程邏輯單元和可編程連接器組成,這些單元和連接器可以被重新配置以實現不同的電路功能。FPGA通常用于需要高度定制化、低功耗和低延遲的應用,例如數字信號處理、圖像處理、網絡加速、嵌入式系統等。
神經網絡處理單元(NPU,Neural Processing Unit)是一種專門用于進行深度學習計算的芯片。它是近年來人工智能領域的熱門技術之一,被廣泛應用于各種人工智能應用中,如自動駕駛、人臉識別、智能語音等領域。目前,大多數NPU都需要與其他芯片(如CPU、GPU等)進行配合使用,才能完成整個計算任務。NPU是人工智能發展的重要組成部分,具有高效、低能耗、低延遲、穩定、可編程等優勢。
二、關于算力的概念
1、算力的定義
算力(CP,Computational Power)是指計算設備或系統在單位時間內處理數據或執行計算任務的能力,是衡量計算效率的核心指標。其核心價值在于解決復雜問題、加速任務處理及支撐大規模計算需求。
數據中心的計算能力,是指數據中心的服務器通過對數據進行處理后實現結果輸出的一種能力,是衡量數據中心計算能力的一個綜合指標,數值越大代表綜合計算能力越強。算力應是數據中心內所有服務器的算力加和,即:
CP = ∑CP服務器
2、算力的要素
算力(CP)的核心要素包括通用算力、智能算力和超級算力。通用算力(CPN,CP-Normal)即為通用計算能力的簡稱;智能算力(CPT,CP-Turbo)即為智能計算能力(也稱高性能計算能力)的簡稱;超級算力(CPS,CP- Super)即為超級計算能力的簡稱。事實上,算力通常主要考核的是CPN和CPT。依據工信部《算力基礎設施高質量發展行動計劃》的要求,通用算力、智能算力和超級算力的含義詳見下表2-2;而數據中心的算力(CP)應為:
CP = CP通用 + CP智能 + CP超級 = CPN + CPT + CPS
表 2-2:通用算力(CPN)、智能算力(CPT)和超級算力(CPS)的含義
3、算力的單位
算力(CP)最常用的單位是FLOPS(Floating-point Operations Per Second,每秒浮點運算次數)。事實上,FLOPS已成為各種設施(如計算機、超算機、服務器等)衡量計算性能的代名詞。FLOPS是一個基本單位,它的更大的數值單位有k(千)、M(兆)、G(吉)、T(太)、P(拍)、E(艾)等,同樣以103遞增,它們之間的換算可詳見下表1-3。據測算,1艾(E)每秒浮點運算次數(即1 E FLOPS)約為5臺天河2A或者50萬顆主流服務器CPU或者200萬臺主流筆記本的算力輸出。
表 1-3:FLOPS數值單位間的換算
4、算力的等級評價
算力(CP)的等級評價采用單物理機架精度(FP32)能力,單位通常采用為FLOPS/架或TFLOPS/架。1 T FLOPS/架即平均單機架每秒執行1萬億次(T)浮點運算。我們知道,浮點運算的計算能力是需要考慮不同精度的浮點數的,在IEEE 754標準中定義了半精度(FP16)、單精度(FP32)和雙精度(FP64)的概念,其含義請參見下表1-4。
表 1-4:浮點運算的精度:半精度、單精度和雙精度
三、算效的概念
1、算效的定義
算效(CE,Computational Efficiency)是指數據中心算力與功率的比值,即“數據中心每瓦功率所產生的算力”,是同時考慮數據中心計算性能與功率的一種效率。數值越大,代表單位功率的算力越強,效能越高。若CP為以單精度浮點數(FP32)的數據中心的算力;PC IT為數據中心IT設備的整體功率,其單位為瓦(W),則算效CE的計算公式為:
CE = CP / PCIT
2、算效的單位
根據上述算效(CE)的定義,其單位應為FLOPS /W,即單位功率(W)的算力(FLOPS)。
3、算效的類型
根據上述算力(CP)的核心要素,算效(CE)也分為通用算效(CEN)和智能算效(CET),與CPN和CPT相對應。
4、算效的等級評價
算效(CE)的等級評價采用單精度(FP32)能力,單位通常采用為FLOPS/W或GFLOPS/W。1 GFLOPS/W即平均每瓦功率每秒執行十億次(G)浮點運算。
四、數據中心算力與算效的指標要求
為了促使我國互聯網數據中心(IDC)的規劃、設計、建設、運維和評估的實施,我國在2023年發布了國家標準GB/T 43331《互聯網數據中心(IDC)技術和分級要求》。該標準中對IDC的算力與算效規定了其指標要求。GB/T 43331是將IDC分級定級為5個等級,從第一級到第五級,第五級技術要求最高。那么IDC的每個等級應滿足的算力與算效指標要求是不同的,具體匯列于下表4中。注意表中算力與算效的等級評價采用前述要求,即算力(CP)的評價單位為TFLOPS/架;算效(CE)的評價單位為GFLOPS/W。
表 4:GB/T 43331標準規定的不同等級IDC應滿足的算力與算效指標
欲詳細了解GB/T 43331國家標準具體內容的請進入。
欲進一步了解我國算力發展國家政策指引要求的請進入。