NVIDIA NVLink 為何能大幅提升效率的關鍵：全新 CPU 、 GPU 高速通道與 GPU 對 GPU 的直接溝通

sleepless

前幾天 NVIDIA 宣布將攜手 IBM 成為美國能源局下一代超級電腦的架構供應商，由 IBM 提供 IBM POWER 架構處理器搭配 NVIDIA 下一代的 Tesla GPU 構成兩套 exeascale 級的運算系統；其中談到相較於現行最快的超級電腦，效能大幅提升一倍以上，除了架構效能提升之外，扮演重要關鍵的就是所謂的 NVLink 技術。

NVLink 是在今年 NVIDIA GTC 藉發表次代 GPU 架構 Pascal 時一同發表的新技術， NVLink 是與 IBM 共同開發的一種核心溝通技術，主要的目的是取代 PCIe 提供更快的傳輸速度與溝通模式。 NVLink 光是頻寬就將高於現行的 PCIe 至少 5-12 倍，其次是將 CPU 與 GPU 的溝通模式變得更直接，並且讓 GPU 與 GPU 可跳過 CPU 直接溝通，同時藉由統一存取記憶體技術整合 CPU 與 GPU 的記憶體，能更有效的利用運算資源。

以現在的海量資料分析與運算，擁有高效能但核心數目較少的 CPU 漸漸不能負擔巨量科學資料或是金融演算，故多數的科學海量分析或是金融系統開始尋求加速器或是 GPU 的協助；這是由於 GPU 在此類運算可藉由動輒千計的流處理器進行運算，理論上在此類海量資料分析可達到比起 CPU 強 10 倍的運算力。


然而現行藉由 CPU 與 GPU 效能的門檻就在於 PCIe 通道無法滿足海量運算所產生的資料，是故在 GPU 完成運算後缺乏足夠的頻寬快速的將資料傳送給 CPU ，同時在多 GPU 架構下，即便接下來的運算項目可透過另一 GPU 演算，仍需要透過 CPU 發號司令， GPU 之間缺乏直接的溝通橋樑。

藉由 NVLink 帶來的高頻寬與允許 GPU 相互溝通的模式，再加上統一記憶體技術使運算產生的資料不需在各核心搭配的記憶體各自存放，而可將記憶體內的所有資料共享，省下在不同核心的記憶體之間重複寫入的流程，能藉此降低能耗，亦可省卻寫入的時間並使記憶體有更多的空間存放資料(畢竟原本的架構記憶體是並聯，統一儲存記憶體則是將所有記憶體串聯提升總記憶體)。