揭秘IPU的設(shè)計理念:站在客戶的角度設(shè)計處理器

“IPU設(shè)計者的幕后故事”：英特爾研究員Brad Burres介紹如何通過基礎(chǔ)設(shè)施處理器（IPU）使中央處理器（CPU）擺脫低價值的繁瑣任務(wù)，使其專注于處理更重要的工作負載。

如果問Brad Burres在業(yè)余時間有什么愛好，您可能想不到他的回答如此簡單：除了騎摩托車、徒步旅行和帶領(lǐng)童子軍野外遠足，他還喜歡DIY。他說：“當(dāng)我們使用射釘槍時，只要全神貫注，那便不會遇到什么棘手問題了?！?/p>

有趣的是，作為以太網(wǎng)產(chǎn)品事業(yè)部的英特爾研究員，Brad Burres是打造IPU的幕后關(guān)鍵人物之一。IPU是一款針對特定領(lǐng)域的處理器，旨在為服務(wù)器客戶解決棘手問題。當(dāng)CPU內(nèi)核數(shù)量隨著計算需求的增加而增加，開銷或基礎(chǔ)設(shè)施處理任務(wù)量也會隨之增加。人們最不想看到的事情就是讓強大的CPU內(nèi)核陷入處理開銷的泥潭，以致無法有效運行應(yīng)用程序。

可以這樣作類比：假如您希望增加團隊人數(shù)，從而更快地完成工作，但這需要成本——需要考慮分配任務(wù)所需的時間、確保各項工作妥善完成、管理團隊的輪班時間表等。在數(shù)據(jù)中心內(nèi)，網(wǎng)絡(luò)、存儲和安全等基礎(chǔ)設(shè)施功能都需要處理能力，但不一定必須由CPU處理，而這就是IPU的用武之地。

Brad Burres表示：“多達30%至40%的處理器周期花費在基礎(chǔ)設(shè)施上。”那么，將其中一些基礎(chǔ)設(shè)施任務(wù)轉(zhuǎn)移到IPU，則可以為更重要的工作負載釋放CPU周期。

Brad Burres介紹道：“大型基礎(chǔ)設(shè)施供應(yīng)商都有一個共同的目標(biāo)，那就是‘不在至強?處理器上運行任何基礎(chǔ)設(shè)施周期’。如果您是微軟Azure、AWS或谷歌云等公有云提供商，您不會希望在基礎(chǔ)設(shè)施任務(wù)或網(wǎng)絡(luò)上花費絲毫至強計算周期。”

群策群力解決問題

英特爾與谷歌聯(lián)手開發(fā)了其首款A(yù)SIC IPU。谷歌這家網(wǎng)絡(luò)巨頭有一份具體的需求清單，需要全方位深度合作并進行共同開發(fā)的伙伴關(guān)系?；诖耍⑻貭柵c谷歌的團隊共同開發(fā)了可編程數(shù)據(jù)包處理功能，以支持由谷歌定義的一系列使用場景。雙方合作的最終成果就是Mount Evans，這款A(yù)SIC芯片負責(zé)進行硬件卸載，也利用ARM N1內(nèi)核來處理那些必須被處理，而又無需英特爾?至強?處理器的強大功能的工作負載。不過，這并非該款芯片的全部優(yōu)點。為確保Mount Evans能夠盡可能高效地處理基礎(chǔ)設(shè)施任務(wù)，雙方做了大量工作。例如，Mount Evans支持每秒傳輸多達2億個數(shù)據(jù)包（這些信息包基于實際工作負載，而非基準(zhǔn)工作負載）。

該款芯片雖然由英特爾與谷歌共同設(shè)計，但它絕非僅被用來解決谷歌所面臨的問題。Brad Burres說：“Mount Evans并非僅針對谷歌而打造。雖然其優(yōu)化功能針對谷歌在其自身運營中發(fā)現(xiàn)的問題而量身定制，但該款芯片足夠靈活，也可以用于其它許多地方?！?/p>

其他一些客戶也希望利用首代ASIC IPU來滿足其數(shù)據(jù)中心運營的類似需求。

Brad Burres表示：“我們從多個客戶那里了解到存在類似問題，然后花時間和從事技術(shù)工作的朋友討論如何解決這些問題，并尋找共性，由此催生出打造IPU的絕佳想法?！彼a充說，面臨類似基礎(chǔ)設(shè)施挑戰(zhàn)的其他公司已經(jīng)提出了自己的解決方案。

進化理論：智能網(wǎng)卡、IPU以及未來

雖然IPU進入大眾視野才短短一年，但Brad Burres已經(jīng)為此冥思苦想了很多年。英特爾首款I(lǐng)PU的開發(fā)工作始于2016年，當(dāng)時是為了推出另一款與眾不同的產(chǎn)品，而這款產(chǎn)品最終演變成為一年前面市的產(chǎn)品。但其實，這款芯片的歷史可以追溯到更早。

Brad Burres在之前擔(dān)任智能網(wǎng)卡首席架構(gòu)師期間，專注于網(wǎng)絡(luò)卸載、存儲卸載和整體數(shù)據(jù)包處理等領(lǐng)域，專門針對頂級云服務(wù)提供商。因此，對于一款最終將被設(shè)計用于這些領(lǐng)域的特定處理器來說，這些都是熟悉的領(lǐng)域。從智能網(wǎng)卡到IPU的轉(zhuǎn)變是一個合乎邏輯的演變，而非僅僅是一個術(shù)語的變化。事實上，兩者之間的差異更廣泛地詮釋了IPU的未來。

Brad Burres解釋說：“智能網(wǎng)卡是一個臨時術(shù)語。普通網(wǎng)卡不具備智能化功能，若非借助FPGA或計算，它只是一個固定管道。而智能網(wǎng)卡不僅擁有智能化功能，還具備內(nèi)核和靈活性，但它只局限在網(wǎng)絡(luò)范圍內(nèi)。隨著存儲和遙測等附加功能的增加，我們有更多機會進行優(yōu)化，‘智能網(wǎng)卡’一詞也不再能準(zhǔn)確地描述這些芯片的功能?！?/p>

在需求波動的情況下，對于整體業(yè)務(wù)圍繞租賃服務(wù)器容量的公司來說，釋放通用算力十分重要。在此過程中，為滿足某些功能的需求增加而過度配置是一種浪費，而引入更強大的至強處理器則不是非常經(jīng)濟?；诖耍蛻魻幭噘徺IMount Evans IPU庫存，以應(yīng)對上述挑戰(zhàn)。

Brad Burres說：“IPU的市場需求非常旺盛。這不僅僅是芯片出貨的問題，英特爾必須確保其軟件也能夠滿足客戶需求，例如擴展到邊緣。它不像至強處理器這樣，當(dāng)我們把至強處理器賣給客戶后，客戶就會去編寫軟件。而在IPU的出貨中，我們發(fā)揮了很重要的作用，并希望確保漸進式的進步?！?/p>

5月發(fā)布的IPU更新路線圖列出了未來四年英特爾IPU，包括第二代Mount Morgan的一些細節(jié)。雖然現(xiàn)在還處于早期階段，但致力于開發(fā)Mount Morgan和后續(xù)第三代IPU的團隊正在與至強產(chǎn)品團隊合作，以協(xié)調(diào)并確保他們沿著各自的路徑并行前進，并在必要時匯合。

“前途不可限量。”當(dāng)被問到IPU的未來發(fā)展時，Brad Burres說：“一個新領(lǐng)域的創(chuàng)新率相當(dāng)高，這也正是它的魅力所在。IPU足夠靈活，可以支持更多使用場景。Mount Evans的使用場景就涵蓋了網(wǎng)絡(luò)和基礎(chǔ)設(shè)施領(lǐng)域，下一步則是存儲領(lǐng)域。隨后，您會開始看到一些I/O任務(wù)向下轉(zhuǎn)移到IPU。創(chuàng)新空間無處不在——而我們正處于冰山一角。”

這種想法可能會讓很多人大吃一驚，但工程師更喜歡“初期而有趣”的階段。因為在這個階段，“開銷任務(wù)”（例如排滿會議的日程表）被壓縮到最低。開發(fā)IPU雖然不像周日下午使用射釘槍那么簡單，但它比很多人想象的要更容易一些。