人工智慧(AI)技術快速擴展,對於AI伺服器的需求也日益提升。作為雲端資料中心的核心運算設備,AI伺服器相對於傳統伺服器內部運算架構更為複雜,關鍵元件包含圖形處理器(GPU)、中央處理器(CPU)以及AI加速器(如TPU、ASIC、FPGA等),且須搭配高度整合技術,才能同時滿足高算力、高功率要求以及高傳輸速度三大需求。
核心硬體架構的差異
在傳統伺服器中,CPU是主角,通常搭載1至2顆,主要執行一般業務應用、資料存取與伺服器虛擬化等工作;一般AI伺服器一樣搭載2顆CPU,以及1至4顆透過PCIe連接的GPU,負責接收AI模型指令並產出結果,例如語音轉文字、簡單的影像辨識等中小規模模型運算...
本篇文章限「免費會員」閱讀
加入會員即可解鎖完整專業內容,掌握最新產業趨勢。