是什麼
微調(Fine-tuning)是指在一個已經過大規模預訓練的基礎模型之上,用規模小得多、但更貼近特定領域或任務的數據繼續訓練,從而調整模型權重、讓它更擅長某類工作。常見做法包括全參數微調,以及只更新少量參數的高效微調(如 LoRA),後者大幅降低了顯存與算力門檻。
為什麼重要
預訓練讓模型具備通用能力,微調則把這份通用能力「校準」到具體場景——例如讓模型熟悉某個行業的術語、遵循固定的輸出格式、或貼合企業的語氣規範。對開源權重模型而言,微調是把公開模型變成專有資產的主要手段;它也是「用更小的模型在窄任務上追平大模型」這一降本路線的關鍵一環。
在 AI 產業鏈中的位置
微調是 AI 產業鏈中模型層的工程能力,但它的成本直接落在芯片與基礎設施層——全參數微調對顯存和算力要求很高,高效微調(LoRA 等)則把這道門檻降下來。向上,它讓應用層能用得起貼合自身業務的定製模型,而不必每件事都依賴最貴的旗艦通用模型。