Fine-tuning 是什麼？像真的重新訓練員工：不是每次交代，也不是臨時翻手冊

假設你新請了一位客服人員。

你希望他做到三件事：

1. 回答時一律簡短、專業。
2. 能查今天最新的退貨政策。
3. 每次遇到 VIP 客戶，都用固定格式整理處理紀錄。

這三個需求看起來都像「讓他更會工作」，但解法其實不一樣。

有的只要當下交代。

有的要給他最新手冊。

有的則真的值得重新訓練他的工作習慣。

這就是理解**微調（Fine-tuning）**之前，最重要的一件事：

先分清楚你到底想改模型的哪一部分。

先把 Prompt、RAG、Fine-tuning 放在同一張圖裡

前面 Lesson 005：Prompt 是什麼？ 講過：Prompt 是你這一次交給 AI 的需求、條件與上下文。

前一篇 Lesson 023：RAG 是什麼？ 講過：RAG 會先從外部資料找出相關內容，再把資料放進 Context 讓模型回答。

Fine-tuning 則不同。

你可以先用三個比喻分開：

• Prompt：主管這次口頭交代「請用三點回答」。
• RAG：員工遇到問題時，先去翻最新公司手冊。
• Fine-tuning：公司安排一整套訓練，讓員工逐漸養成新的工作方式。

三個都可能讓結果變好，但它們改的地方不一樣。

Fine-tuning 到底在調什麼？

Fine-tuning 是在既有模型的基礎上，再用一批特定訓練資料繼續調整模型參數。

如果你忘了「模型怎麼學」的基礎，可以回看 Lesson 003：AI 是怎麼學會的？。一句話 recap：訓練會根據大量例子調整模型內部參數，讓模型更容易產生符合資料規律的輸出。

Fine-tuning 不是從零開始訓練一顆新模型。

它比較像：

這位員工本來已經受過完整教育，現在再安排一段專門訓練。

例如讓他更熟悉：

• 某種固定輸出格式
• 某類任務的回答模式
• 某種語氣與風格
• 特定分類方式
• 某些領域中的行為規則

最常見的一種：Supervised Fine-Tuning

你可能會看到監督式微調（Supervised Fine-Tuning, SFT）。

它的核心做法，是準備很多「輸入 → 理想輸出」範例。

例如：

輸入：客戶說包裹延誤三天。
理想輸出：先致歉，再確認訂單編號，最後提供查件步驟。

再準備很多類似範例。

模型透過這些資料，逐漸學到你希望它怎麼回。

這很像新人訓練時，不只是給規則文件，而是拿很多真實案例告訴他：

「遇到這種情況，我們公司的標準處理方式長這樣。」

Fine-tuning 不是拿來塞最新公司文件的第一選擇

這是最容易誤會的地方。

假設公司退貨政策每個月都可能更新。

你把這個月政策拿去 Fine-tune，模型可能在行為上受到影響。

但下個月規則改了，你又要怎麼辦？

而且 Fine-tuning 並不是一個「把文件永久存進模型，之後可以精確查詢」的保證機制。

如果需求是：

回答時必須根據最新文件內容。

那通常更應該先想到 RAG 或其他 Retrieval 方法，因為外部資料可以更新、版本可以管理，也比較容易顯示來源。

那什麼情況比較像 Fine-tuning 的問題？

例如你每天都要跟模型說：

「回答只能輸出這五個欄位，不要多寫任何解釋。」

而且即使 Prompt 已經寫得很清楚，模型還是常常格式跑掉。

如果你有大量高品質範例，Fine-tuning 可能值得考慮。

又例如：

• 每次都要模仿同一種客服結構
• 固定把文字分類成公司自訂標籤
• 需要非常穩定的 JSON 或特定格式
• 某類任務有大量已知的好答案

這些都比較像「訓練工作習慣」。

先別急著 Fine-tune

很多問題其實先把 Prompt 改好就能解決。

例如原本只寫：

「幫我分類。」

模型當然要猜。

如果改成：

請只輸出以下其中一個標籤：
退款 / 物流 / 帳號 / 其他
不要補充解釋。

結果可能已經穩很多。

所以實務上，常見順序會是：

1. 先確認 Prompt 是否清楚。
2. 建立測試資料，知道錯在哪裡。
3. 如果缺的是外部知識，考慮 RAG。
4. 如果缺的是穩定行為，而且有高品質訓練範例，再考慮 Fine-tuning。

Fine-tuning 資料越多越好嗎？

不一定。

垃圾範例很多，只會更穩定地把垃圾教進去。

真正重要的是：

• 範例是不是你真的想要的輸出
• 不同案例有沒有互相矛盾
• 訓練資料是否涵蓋真實使用情況
• 測試資料是否和訓練資料分開

可以把它想成訓練新人。

如果十個主管給十套互相衝突的標準答案，新人不會因此變得更專業。

Fine-tuning 之後，Prompt 還需要嗎？

需要。

Fine-tuning 不是把 Prompt 消滅。

即使一位客服人員已經受過完整訓練，你今天還是要告訴他：

「這位客戶現在是在問退款。」

Fine-tuned model 仍然需要輸入，也仍然可以透過 Prompt 指定當下任務。

比較好的理解是：

Fine-tuning 改變模型比較習慣怎麼做；Prompt 告訴它這一次要做什麼。

Fine-tuning 和 RAG 可以一起用嗎？

可以。

例如：

• Fine-tuning：讓客服模型固定用公司的回答格式。
• RAG：每次回答前去查最新政策。

一個負責「怎麼答」，一個負責「這次有哪些新資料可以用」。

它們不是只能二選一。

Fine-tuning 會讓模型變成自己的私有 GPT 嗎？

這種說法太模糊。

有些 API 服務提供託管式 Fine-tuning，你仍然是在服務商的基礎模型與平台上建立一個客製化版本。

另外也有人下載可以自行部署的模型，在自己的硬體上進一步訓練或微調。

這會帶到下一個很常被問的問題：

如果模型根本不放在別人的雲端，而是跑在自己的電腦或伺服器上呢？

這就是下一篇的 Local LLM。

今天只要記住一句話

Prompt 是當下交代，RAG 是臨時查資料，Fine-tuning 是用訓練範例去改變模型更習慣怎麼做；先分清楚問題，再選方法。