中文字幕久久久久一区-中文字幕久久久-中文字幕久久精品波多野结-中文字幕久精品免费视频-老师你下面好紧我进不去-老师你下面好紧好爽上面好大好软

新聞動態(tài)

AI服務(wù)器的核心之GPU加速卡

2024.10.17

AI服務(wù)器 VS 通用服務(wù)器


通用服務(wù)器


通常配備2個CPU,具備更加綜合的計算能力、存儲能力和網(wǎng)絡(luò)能力,以滿足各種數(shù)據(jù)的處理和計算需求,往往用于傳統(tǒng)的計算任務(wù)和網(wǎng)絡(luò)應(yīng)用。 


無標(biāo)題22.png

圖源:華為官網(wǎng)



AI服務(wù)器



通常采用異構(gòu)形式,除了2個CPU之外還需配備4-8張加速卡,例如CPU+GPU、CPU+TPU、CPU+其他的加速卡等,AI服務(wù)器具備大量的并行計算能力,因此需要采用更高性能的處理器、大量的內(nèi)存和存儲資源以及適用于AI計算的加速卡。


在應(yīng)用場景方面,AI服務(wù)器主要針對大數(shù)據(jù)、科學(xué)計算、人工智能等計算密度較高、數(shù)據(jù)處理龐大的場景。 


無標(biāo)題333.png

圖源:華為官網(wǎng)


GPU加速卡是AI服務(wù)器的關(guān)鍵


GPU加速卡(OAM),主要由GPU芯片、內(nèi)存芯片、電源模塊、散熱器等部件組成,通過PCB來連接和傳輸信號。


GPU加速卡可以分為兩種類型:SXM版本和PCIE版本。SXM版本是指使用NVIDIA公司開發(fā)的SXM接口連接GPU芯片和主板的加速卡;PCIE版本是指使用標(biāo)準(zhǔn)的PCIE接口連接GPU芯片和主板的加速卡。


0da2ddb428f26.png

SXM版本 VS PCIE版本


SXM版本相比PCIE版本具有更高的帶寬和更低的延遲,但也需要更高級別的PCB和散熱系統(tǒng)。


GPU加速卡是目前PCB行業(yè)中高端且昂貴的產(chǎn)品之一,對制造工藝要求非常高,一般會用到5-7階HDI,層數(shù)在20-26層。


GPU加速卡對PCB的要求主要有以下幾點:


BGA芯片高密度布局

GPU和內(nèi)存BGA芯片有很多引腳很多,需要多層和多階HDI工藝來實現(xiàn)互聯(lián)。


高速信號傳輸

由于GPU加速卡上有很多組高速信號,為了保證信號的低損耗傳輸需要選擇具有較低的介電常數(shù)(Dk)、介電損耗(Df)、表面粗糙度(Rz)等參數(shù)的高速板材進行加工。


可靠性

由于GPU加速卡需要長期穩(wěn)定運行,因此在選用板材的時候需要板材具有較高的導(dǎo)熱系數(shù)(K)和較低的熱膨脹系數(shù)(CTE)保證PCB的熱穩(wěn)定性。


同時需要板材具有較高的玻璃化轉(zhuǎn)變溫度(Tg)、較低的水分吸收率(MOT)、較強的機械強度和耐化學(xué)腐蝕性。


666666.png

7階HDI 26層 GPU加速卡(局部圖)

明陽電路生產(chǎn)


GPU模組板是GPU可擴展的關(guān)鍵


GPU模組板(UBB),即Unit Base Board,用于搭載多個GPU整合為矩陣平臺,為GPU之間和GPU與CPU之間,提供高速的數(shù)據(jù)交換能力。


GPU-Board-Components.png

GPU模組板(UBB) 與 GPU加速卡(OAM)

The NVIDIA DGX A100 GPU Board


GPU加速卡,是一種基于開放標(biāo)準(zhǔn)(Open Accelerator Module)設(shè)計的GPU模塊,可以插入到GPU模組板上。


GPU模組板(UBB) 對PCB的要求主要有以下幾點:


層數(shù)

由于GPU模組板需要通過交換芯片連接多個GPU加速卡,并且需要多個電壓的電源分配網(wǎng)絡(luò)(PDN),因此層數(shù)一般在16層以上。


孔結(jié)構(gòu)

由于GPU模組板的面積比較大,因此可以直接使用通孔來實現(xiàn)不同層之間的互聯(lián),針對高速信號的過孔可以使用背鉆工藝來減少stub帶來的信號反射。


高速信號傳輸

GPU模組板上的交換芯片和GPU模組之間有大量的高速信號線,為了保證信號的低損耗傳輸板材需要選擇PPO等高性能樹脂材料。


熱穩(wěn)定性

GPU模組板有大量的電源分配網(wǎng)絡(luò)(PDN),同時還要受到多個GPU模組和CPU母版的熱傳導(dǎo),需要選擇有較高的導(dǎo)熱系數(shù)(K) 和較低的熱膨脹系數(shù)(CTE)的板材。


AI服務(wù)器的CPU母板


CPU母板組件包括CPU、CPU主板、內(nèi)存條、PCIe交換機、網(wǎng)卡、擴展卡和存儲板。以DGX A100 CPU母板為例:

DGX-A100-CPU-motherboard.png

DGX A100 CPU母板

圖源:fibermall


CPU主板

負(fù)責(zé)安裝CPU芯片、PCIE Switch芯片、TPM模塊以及各種功能卡,CPU主板支持AMD Rome 64核 CPU和PCIE 4.0總線,PCB層數(shù)一般為12-16層,采用通孔設(shè)計,使用低損耗板材。


CPU內(nèi)存條

32個內(nèi)存條,最大支持2TB RAM。


網(wǎng)卡

Mellanox ConnectX系列有10種型號(8個單端口200Gb/s IB和2個雙端口200Gb/s以太網(wǎng))。


Riser卡

用于擴展PCIe接口。


硬盤板

裝有兩個 1.92TB M.2 NVMe 硬盤。


文章參考來源:

Breaking down the Five Key Components of an AI Server-fibermall

AI服務(wù)器/EGS平臺升級拉動高速PCB需求,高速PCB產(chǎn)業(yè)鏈解析-安信證券

聲明:文章內(nèi)容整理自網(wǎng)絡(luò)公開素材,版權(quán)歸原作者平臺所有,僅用于信息分享,如有侵權(quán)請聯(lián)系刪除。



上一條: 電動船舶產(chǎn)業(yè)化機遇:三電系統(tǒng)與補能設(shè)施

下一條: 如何設(shè)計5G毫米波基站?

返回列表
分公司:德國明陽  |  德國明陽(工廠)  |  美國明陽  |  采購SRM平臺
版權(quán)?2018 明陽電路科技股份有限公司保留所有權(quán)利. 粵ICP備05084072號     技術(shù)支持沙漠風(fēng)
主站蜘蛛池模板: 亚洲麻豆精品成人A在线观看| 不分昼夜H1V3| 日韩精品 电影一区 亚洲高清| 国产精品一区二区20P| 久9视频这里只有精品123| 88蜜桃人妻无码精品系列| 日本双渗透| 久久re视频这里精品09免费| YELLOW视频在线观看大全| 亚洲毛片网| 日本午夜看x费免| 久久热精品18国产| 97免费视频在线观看| 香蕉eeww99国产精品| 欧美z000z猪| 办公室中文BD| 一区两区三不卡| 深爱激情站| 欧美大jiji| 久久国产伦子伦精品| 国产69精品久久久久人妻刘玥| 中文人妻熟妇精品乱又伦| 韩国伦理片2018在线播放免费观看| 亚洲日韩一区精品射精| 破女在线观看视频| 国产成人AV永久免费观看| 最近日本免费观看MV免费| 亚洲 日韩经典 中文字幕| 青青草原国产在线| 久久亚洲黄色| 极品 女神校花 露脸91| 国产AV国片精品无套内谢无码 | 久久黄色网址| 国产欧美无码亚洲| 大桥未久电影在线观看| 亚洲精品久久7777777| 免费毛片观看| 久久精品视频91| 国精产品一区一区三区有限公司| 国产AV白丝爆浆在线播放| 仓井空torrent|