是什麼

NVLink 是輝達推出的高速互聯技術,用於在多顆 GPU 之間,以及 GPU 與 CPU 之間建立遠高於傳統 PCIe 的點對點頻寬連線。配合 NVSwitch 交換晶片,它可以把機櫃內的多顆 GPU 連成一個高頻寬、低延遲的整體,使它們能夠高效地共享資料與協同計算。

為什麼重要

現代大型 AI 模型的引數規模早已超出單顆 GPU 的承載能力,必須把計算切分到成百上千顆 GPU 上並行完成。此時晶片之間的資料交換速度,往往比單顆算力更能決定整體效率。NVLink 提供的高頻寬互聯,讓大量 GPU 在物理上分立、在邏輯上趨近於一顆「超級晶片」,是大規模訓練能夠高效擴充套件的前提之一。

在 AI 產業鏈中的位置

NVLink 位於 AI 產業鏈的晶片層,但作用延伸到基礎設施層。它把單顆晶片的算力,通過互聯匯聚成機櫃乃至叢集級別的算力,直接支撐上方模型層的大規模分散式訓練。互聯能力與晶片本身,共同決定了一個 AI 工廠究竟能調動多大的有效算力。