深度學(xué)習(xí)是目前科技型企業(yè)甚至不少傳統(tǒng)企業(yè)轉(zhuǎn)型的“方舟”，今天以一位網(wǎng)爍的服務(wù)器客戶為例，為大家分享一臺(tái)深度學(xué)習(xí)服務(wù)器的搭建思路。這位客戶是從事新材料行業(yè)，打算購(gòu)入一臺(tái)GPU服務(wù)器進(jìn)行深度學(xué)習(xí)訓(xùn)練代替人工，讓AI來(lái)檢驗(yàn)材料表面，提高檢測(cè)效率。
首先我們來(lái)看一看這臺(tái)服務(wù)器的基礎(chǔ)配置：
服務(wù)器是以Supermicr 7048GR-TR平臺(tái)為核心，平臺(tái)支持Intel?Xeon E5-2600V3/V4系列，QPI高達(dá)9.6GT/S，支持4通道內(nèi)存；
內(nèi)存方面，平臺(tái)支持最高2TB 2400MHz的DDR4 ECC 3DS LRDIMM內(nèi)存，主板上內(nèi)存插槽共計(jì)16根；
擴(kuò)展方面，4條PCI-E 3.0 x16、2條PCI-E 3.0 x8和1條1個(gè)PCI-E 2.0 x4插槽，支持最高4張NVIDIA GPU卡；
板載ASPEED AST2400 BMC芯片提供視頻輸出，2個(gè)RJ45 2GbE網(wǎng)口和1個(gè)IPMI遠(yuǎn)程管理端口為這臺(tái)服務(wù)器提供了遠(yuǎn)程監(jiān)控能力；
平臺(tái)的存儲(chǔ)能力也相當(dāng)可觀，共有8個(gè)3.5英寸標(biāo)準(zhǔn)熱插播托盤和3個(gè)5.25的標(biāo)準(zhǔn)光驅(qū)位；
電源采用具有PMBus 協(xié)議的2000W冗余電源；
散熱方面，中部風(fēng)墻采用4個(gè)92x38mm 4pin可調(diào)速散熱風(fēng)扇，后部風(fēng)扇數(shù)為4，其中2個(gè)為可選。
網(wǎng)爍根據(jù)該客戶的實(shí)際需求，為客戶定制了以下方案：
GPU卡：客戶的服務(wù)器采用了四張Nvidia GTX TITAN Xp作為GPU卡配置，為什么要采用TITAN XP作為深度計(jì)算的GPU卡，而不是最新的TITAN V呢？我們看數(shù)據(jù)說(shuō)話：
GPU卡對(duì)深度學(xué)習(xí)影響最大的三個(gè)參數(shù)分別是單精度浮點(diǎn)運(yùn)算（越高越好）、顯存帶寬（越高越好）和顯存容量（越多越好）。與TITAN XP相比，TITAN V價(jià)格高出2.49倍，然而在單精度浮點(diǎn)運(yùn)算能力、顯存帶寬上的優(yōu)勢(shì)僅僅為1.23倍和1.19倍，TITAN XP與TITAN V的顯存容量也相同，二者相比自然選擇性價(jià)比更優(yōu)的TITAN XP。況且，購(gòu)買4張TITAN XP的價(jià)格只能購(gòu)入1.6張TITAN V，而四張TITAN XP后四倍數(shù)值的提升（根據(jù)運(yùn)行環(huán)境不同，實(shí)際數(shù)據(jù)可能會(huì)有略微出入）對(duì)TITAN V的優(yōu)勢(shì)無(wú)疑是很明顯的。
散熱：根據(jù)我們的經(jīng)驗(yàn)，在多GPU卡時(shí)應(yīng)該采用最大風(fēng)扇數(shù)配置才能達(dá)到良好的散熱效果，所以我們?cè)趥溥x散熱風(fēng)扇位置安裝了2枚球形風(fēng)扇，以保證GPU卡散熱良好。
CPU：CPU采用了兩顆E5-2678V3 2.5G 十二核處理器。這顆CPU架構(gòu)為Haswell，適用于Socket 2011-3插槽，擁有2.5GHz主頻和2.9GHz睿頻，L3為30MB，TDP為120W，總線速度為5GT/s，支持雙通道DDR4類型內(nèi)存。本地存儲(chǔ)、內(nèi)存和顯存之間數(shù)據(jù)交換需要消耗大量CPU資源，而兩顆十二核心處理器為深度學(xué)習(xí)服務(wù)器提供了良好的支持。
內(nèi)存：根據(jù)經(jīng)驗(yàn)，內(nèi)存的容量通常至少為GPU卡顯存容量的2倍才足以應(yīng)對(duì)內(nèi)存與顯存之間巨大的數(shù)據(jù)交換。深度學(xué)習(xí)對(duì)內(nèi)存的消耗主要分為輸入的圖像數(shù)據(jù)、模型復(fù)雜程度、各層響應(yīng)。其中學(xué)習(xí)資料占用很小，一張256X256的彩色學(xué)習(xí)圖片大小以192KB來(lái)計(jì)算，即使加載1萬(wàn)張學(xué)習(xí)庫(kù)也僅僅占用不到2GB內(nèi)存；而神經(jīng)網(wǎng)絡(luò)識(shí)別模型和各層的響應(yīng)則是內(nèi)存占用大戶，結(jié)構(gòu)越復(fù)雜，運(yùn)算時(shí)占用的內(nèi)存就越多。所以我們?yōu)橛脩粼谄脚_(tái)上搭載了4跟金士頓 32G RECC DDR4 2400MHz內(nèi)存，保證雙通道發(fā)揮出內(nèi)存讀寫最大性能的同時(shí)，128G內(nèi)存又滿足了內(nèi)存兩倍于顯存（48G）的容量要求。
Intel SSD S4500 480G，采用企業(yè)級(jí)SSD一方面為了保證數(shù)據(jù)吞吐時(shí)不會(huì)造成性能瓶頸，另一方面企業(yè)級(jí)SSD的平均無(wú)故障時(shí)間和完善的質(zhì)保體系遠(yuǎn)超消費(fèi)級(jí)SSD。
以上就是該服務(wù)器的配置情況，如果你對(duì)深度學(xué)習(xí)、人工智能服務(wù)器有需求，歡迎聯(lián)系網(wǎng)爍的客服電話400-028-1968，我們將及時(shí)為你跟進(jìn)，為你搭建適用、好用的專業(yè)計(jì)算機(jī)。
川公網(wǎng)安備 51010702001250號(hào)