半導體研究機構SemiAnalysis創始人Dylan Patel近日在訪談中提出,當前AI晶片和模型仍有大量效能未被充分利用,通過軟體層面的最佳化,現有硬體可挖掘出50%至80%的額外效能。這一觀點對AI產業的投資邏輯具有潛在影響,因為若算力效率能大幅提升,市場對新一代晶片的依賴度可能降低,進而改變算力供需格局。
Patel指出,AI模型可通過軟體最佳化、推測解碼、多Token預測等技術手段,提高晶片的實際利用率。他舉例稱,即使使用三四年前的Hopper晶片,模型效能仍能持續提升,說明硬體潛力遠未耗盡。這意味著,在現有基礎設施上,通過演算法和系統層面的改進,AI訓練和推理的成本可能進一步下降。
從產業角度看,這一觀點與當前AI晶片供不應求、算力成本高企的現狀形成對照。若效能提升空間確實存在,那麼對於依賴大規模算力的模型廠商而言,最佳化軟體可能比單純採購新硬體更具價效比。同時,這也可能影響晶片廠商的定價策略和客戶採購節奏。
不過,Patel的言論屬於行業觀察者的個人判斷,並非實測資料或官方預測。實際效能提升幅度取決於具體工作負載、模型架構和工程實施水平。對於投資者而言,這一觀點提示關注AI產業鏈中軟體最佳化與硬體效率的平衡,而非僅聚焦於硬體迭代本身。未來,隨著新模型、新硬體及更深層最佳化的推進,AI算力效率的提升潛力值得持續跟蹤。