隨著英偉達不斷推出Tesla V100 GPU產品，多家知名服務器制造商業(yè)推出相應搭載的企業(yè)級服務器。但出現(xiàn)的一個很大的問題是，隨著企業(yè)越來越多轉向云，這些為機器學習而設計的服務器真的可以阻止企業(yè)服務器業(yè)務的下滑嗎?最近推出用于IoT的硬化工業(yè)服務器可能都在表達一個信息：服務器制造商正在尋求在垂直市場的增長突破。
將企業(yè)工作負載轉移到亞馬遜、谷歌、IBM和其他托管基礎設施方面是可以理解的，按需資源的可伸縮性、云規(guī)模的運營效率和安全性是其中的三個原因。例如，谷歌有90名工程師正在進行的是大多數(shù)企業(yè)人員不足的安全防范工作。
上個季度，除戴爾外，每個企業(yè)服務器公司的收入都有所下降。服務器業(yè)務正在增長，卻不在企業(yè)級領域。云供應商并沒有購買太多，相反，他們購買了根據(jù)其規(guī)范構建的組件，并為其龐大的24X7工作負載優(yōu)化了基礎架構。谷歌、Facebook、IBM和其他云服務商，通過由Facebook創(chuàng)建的開放計算項目開展工程并指定新的硬件組件。這意味著云供應商將直接從服務器廠商的供應鏈購買。前幾季度的下降表明，這將會是一個難以扭轉的長期趨勢。
企業(yè)級機器學習市場還很年輕，但是這些服務器的利潤將會很高。為企業(yè)創(chuàng)新者的機器學習工作負載提供經(jīng)GPU優(yōu)化的服務器將是有利可圖的。隨著行業(yè)的成熟，及早獲得市場份額對企業(yè)來說很重要。
英偉達與英特爾
英偉達是機器學習和人工智能界的英特爾。在英偉達的Volta架構上，還借鑒了英特爾的劇本。英特爾在PC和服務器平臺獲得了主導地位，通過為其他組件生產商如內存、硬盤開放標準接口，為系統(tǒng)制造商如戴爾、聯(lián)想提供參考規(guī)范，以及為許多小型制造商設計系統(tǒng)幫助其優(yōu)化PC和服務器的性能及價格。
看看Volta架構白皮書，英偉達與英特爾采取的方法十分相似，但是有一個不同的用例：神經(jīng)網(wǎng)絡。用神經(jīng)網(wǎng)絡應用計算資源來解決具有非常大矩陣的機器學習線性代數(shù)問題，迭代以做出準確的統(tǒng)計決策。神經(jīng)網(wǎng)絡是計算密集型的，因為它們需要多次更新數(shù)百萬個參數(shù)，以最小化誤差并產生準確的模型。這些更新基本上是大型矩陣乘法運算。
雖然有許多不同類型的機器學習和AI，但是大多數(shù)應用機器學習是受到監(jiān)督的。監(jiān)督意味著用標記的數(shù)據(jù)集來訓練機器學習模型。
機器學習是一種實證科學。工程師需要多次迭代才能學習如何訓練神經(jīng)網(wǎng)絡來了解一個新的用例。即使是最有經(jīng)驗的機器學習專家也不能肯定地說，到底需要多少的矢量來訓練一個模型。這意味著大量的實驗可以為新的用例創(chuàng)建一個模型，然后再進行優(yōu)化以適應具有ROI的計算預算。
如今，大多數(shù)機器學習模式，都是從自然語言或圖像識別等學術界開始，由谷歌、Facebook、IBM和微軟的大型精湛的研究人員和工程團隊進一步研究。但這些問題與企業(yè)的用例、搜索排名、圖像和對象識別等相匹配，這些問題常常是開源的，可供企業(yè)使用，但可能不適用于企業(yè)用例。企業(yè)機器學習專家和數(shù)據(jù)科學家將不得不從頭開始研究，并迭代構建新的高精度模型。
英偉達的Volta架構
Volta架構包括許多在超級計算機中使用的特性，用于加速計算并優(yōu)化以前的CPU和現(xiàn)在的GPU、內存和互連帶寬。
Volta架構使用流式多處理器進行深度學習，以混合計算和尋址計算進行優(yōu)化調整，并行處理通過并行線程之間的細粒度同步和協(xié)作得到改進。連接的L1數(shù)據(jù)緩存和共享內存可以顯著提高性能并簡化編程。
·它具有更高帶寬實現(xiàn)高速互連。多GPU系統(tǒng)之間的更多連接增加了可擴展性和并行性。
·內存子系統(tǒng)使用三星HBM2內存快速存儲器提供900 GB /秒的峰值內存帶寬，可以使用高達95%的內存帶寬利用率運行許多工作負載。
·多進程服務提高了共享GPU的多個計算應用程序的性能、隔離性和服務質量。在多GPU應用程序中，獲取接近GPU的數(shù)據(jù)執(zhí)行指令的速度性能。統(tǒng)一的內存和地址轉換服務將內存頁面遷移到最頻繁訪問它們的處理器，從而提高處理器之間共享的內存范圍的效率。
英偉達已經(jīng)為其企業(yè)服務器合作伙伴設計了一個架構，用于向致力于機器學習的企業(yè)銷售服務器產品。這是一個特殊業(yè)務，因為企業(yè)需要四種特性：大量的培訓數(shù)據(jù)，高技能的數(shù)據(jù)科學家和機器學習專家，機器學習可以解決的一個戰(zhàn)略問題，以及不使用云服務的理由。
it168網(wǎng)站原創(chuàng) 作者: 李佳惠
川公網(wǎng)安備 51010702001250號