01
治理 · 系統方法
建構與部署 AI 應用
Building and deploying AI applications
AI 應用與傳統軟體的本質差異，不是「有沒有呼叫模型」，而是輸出天生不可預測。真正的技能是用統計方法讓系統變得可控。
“When you prompt an LLM, you don’t know what you’ll get back. When you train a deep learning algorithm, you don’t know what prediction it will make on new examples.”
構建塊
- LLMs
- Context engineering
- RAG
- Agentic workflows
- 機器學習 / 深度學習
- Evals
- Error analysis loops
不可預測性才是定義特徵
Ng 沒有從「會用哪個模型」起筆，而是先畫出一條界線：傳統軟體行為可預期，AI 系統不是。這意味著 2026 年的 AI 工程，核心不再是把 API 接上產品，而是為非確定性系統設計治理層——測量、引導、約束、回退。
Evals 是新的單元測試
他特別點名「有紀律的 evals 與 error analysis loops」。這不是偶爾跑一次基準分數，而是把錯誤分析做成閉環：看哪一類失敗、改資料或改流程、再量一次。沒有這個迴圈，你只是在部署運氣。
Building blocks 只是零件
LLM、RAG、agentic workflow、ML/DL 都被列為「構建塊」。重點在後一句：更重要的是用統計技術去測量、引導與治理。零件清單人人會背；能讓系統在生產環境裡行為收斂的人，才是這項技能的持有者。
怎麼練
- 為你正在做的 AI 功能寫一份失敗分類表，而不是只看平均分數。
- 每次改 prompt / 檢索 / 流程，都對同一組 eval set 重跑，拒絕「感覺變好了」。
- 上線前先定義：什麼輸出算不可接受、如何攔截、如何回退到確定性路徑。
常見誤讀
誤讀：這項技能 = 會串 LLM API。正解：這是把非確定系統做成可治理產品的能力。