Thinking / Reasoning Mode 是什麼？為什麼同一個 AI 有快答、深想和不同 Effort

你問：

7 × 8 等於多少？

如果 AI 花一分鐘規劃、驗證、重新檢查，通常沒有太大意義。

但你問：

找出這段分散式程式偶發 deadlock 的原因，
列出三個假說，逐一用 log 驗證，最後給最小修正。

這時「秒回」反而可能不是你要的。

這就是現在很多 AI 產品與 API 會出現 Thinking / Reasoning Mode（思考／推理模式） 或 Reasoning Effort（推理強度） 的原因。

先分 Training 和 Inference

Lesson 003：AI 是怎麼學會的？ 講過 Training（訓練）：模型透過大量資料與最佳化學會參數。

你現在每次問問題時，模型則是在做 Inference（推論）：使用已經訓練好的參數產生這一次答案。

Reasoning Mode 主要是在 Inference 階段改變「這次回答願意投入多少計算與推理流程」。

Effort 可以想成思考預算

同一個人回答不同問題，也不會投入相同時間。

「你叫什麼名字？」
→ 直接回答

「這份 80 頁合約有沒有互相矛盾的條款？」
→ 先讀、做筆記、交叉比對、重新檢查

Reasoning Effort 可以把它想成系統願意給這次任務多少推理預算。

不同產品的實作方式不同，不能假設所有 low / high / max 內部都完全一樣。

更多 Reasoning 通常換來什麼？

對複雜任務，更多推理預算可能有助於：

• 多步驟數學
• Debugging
• 長條件規劃
• 複雜 Code Review
• 約束很多的決策
• Tool Use Planning
• 反覆驗證

它讓模型更有機會先處理中間步驟，而不是立刻吐第一個看起來合理的答案。

代價就是 Latency

Latency（延遲） 是你從送出 Request 到拿到結果需要等多久。

Reasoning 越重，通常越可能：

• 等比較久
• 使用更多 Compute
• API 成本更高，視供應商計價方式而定

所以「最強模式永遠開最大」不一定是最有效率的產品設計。

簡單任務用高 Effort 可能沒有明顯收益

例如：

• 翻譯一句話
• 改 Email 語氣
• 格式轉換
• 簡單抽取欄位
• 固定規則分類

這些任務如果本身非常明確，更多 Reasoning 不一定帶來成比例改善。

產品常會在：

Quality
Latency
Cost

之間做 Trade-off（取捨）。

Reasoning 不是 Web Search

Lesson 043 和 Lesson 044 已經講過外部研究。

這三件事不要混：

Reasoning
= 對現有 Context 做更深入推理

Web Search
= 去外部找新資料

Deep Research
= 多輪搜尋、閱讀、追查、綜合

如果模型不知道今天的即時股價，叫它 Reasoning 三倍久也不會憑空得到正確即時數字。

Reasoning 也不是保證不會幻覺

Lesson 006：AI 幻覺 仍然成立。

模型想更久可能發現一些錯誤，也可能把錯誤假設推演得更完整。

所以高風險任務還是要：

• 用外部證據
• 跑 Test
• 用 Tool 驗證
• Human Review

Agent 會把 Reasoning 用在「下一步做什麼」

在 Coding Agent 或 Computer Use 裡，推理不只是在寫最後一段文字。

模型可能要決定：

先讀哪個檔案？
→ 要不要跑測試？
→ 這個錯誤代表哪個假說比較可能？
→ 下一個 Tool Call 是什麼？

所以 Agent 任務通常比單輪聊天更能吃到 Reasoning 的價值。

新手怎麼選？

可以先用一個簡單原則：

簡單、可逆、格式化任務
→ 快速模式

有多個約束、需要推導或驗證
→ 中高 Reasoning

高風險、長流程、複雜 Debug / Research
→ 高 Reasoning + Tools + Verification

不要只看「回得慢」就認為一定比較聰明，也不要只看「回得快」就認為模型偷工減料。

真正問題是：這個任務需要多少推理，以及結果怎麼驗證。

Lesson 050：你現在已經走到哪裡？

從 Lesson 001 的「AI 到底是什麼」，一路到現在，你已經看過：

• Model / Training / Token / Prompt
• Image / Video / Multimodal
• API / Agent / RAG / Local LLM
• Python / Git / CUDA / Hugging Face
• Prompt Injection / Guardrail
• AI Video Workflow
• AI Search / Deep Research
• Browser / Computer Use
• MCP / Coding Agent / Vibe Coding
• Reasoning

這些名詞開始連成同一張圖：

模型負責理解與生成；Tools 把它接到外部世界；Reasoning 決定它怎麼規劃複雜任務；安全與驗證則決定這些能力能不能可靠地放進真實系統。

一句話帶走

Thinking / Reasoning Mode 可以理解成在 Inference 階段替一次任務分配不同推理預算。難題可能因此受益，但代價是更多延遲與計算；而更多 Reasoning 不等於自動取得新資料，也不等於保證正確，仍然需要 Search、Tools、Test 與驗證。