是什麼

CUDA(Compute Unified Device Architecture)是英偉達於 2007 年推出的並行計算平臺與編程模型。它提供一套接口和工具,讓開發者能用熟悉的編程語言把通用計算任務交給 GPU 執行,而不必侷限於圖形渲染。圍繞 CUDA 還形成了 cuDNN 等大量加速庫,覆蓋深度學習、科學計算等領域。

為什麼重要

CUDA 把 GPU 從圖形專用芯片變成了通用並行計算引擎,為後來的深度學習浪潮奠定了軟件基礎。經過多年積累,主流 AI 框架與海量代碼、人才都深度綁定在 CUDA 之上,遷移成本極高。這種軟件生態層面的鎖定,被普遍視為英偉達最堅固的護城河,其價值甚至不亞於硬件本身。

與五層蛋糕的關係

CUDA 處在「五層蛋糕」中「芯片」層與「模型」層之間的銜接位置。它是把英偉達硬件算力暴露給上層開發者的軟件橋樑:正因為有 CUDA,「模型」層的研究者才能方便地驅動「芯片」層的 GPU。這層軟件黏合,讓芯片層的優勢能夠順暢傳導到模型與應用層。