坊間一門「AI 工程師養成班」,學費開價三萬到十萬台幣。而 Harvard 把一整門機器學習系統課──兩卷教科書、自建框架練習、硬體實驗、模擬器、面試題庫──全部放上 GitHub,一毛錢不收。這個叫 MLSysBook 的專案已經累積超過 26,000 顆星,光是這兩天就新增近 800 顆,衝上 GitHub Trending。
一句話結論:Harvard 機器學習教科書 MLSysBook 是免費開源的全套 AI 系統課程,兩卷全書+7 套實戰工具,會 Python 就能讀,適合想轉進 AI 基礎設施職位的人。
MLSysBook 是什麼?誰寫的?
MLSysBook 全名《Machine Learning Systems:Principles and Practices of Engineering Artificially Intelligent Systems》,源自 Harvard 的 CS249r 課程,作者是 Harvard 教授 Vijay Janapa Reddi。它不是講義掃描檔,而是一套持續更新的活教材:線上版全文免費(mlsysbook.ai),原始碼放在 GitHub(harvard-edge/cs249r_book),教科書部分採 CC BY-NC-SA 4.0 授權,非商業用途可自由分享改作。實體書 2026 年由 MIT Press 出版──也就是說,一本要進 MIT Press 的教科書,網路版現在就能免費讀完。
截至 2026 年 7 月,GitHub 上超過 26,000 星。作者的說法很直白:星星數是說服大學和基金會支持的證據,捐款全數進 Open Collective,用來給資源不足的教室送硬體套件。
這本書教什麼?跟一般 AI 課差在哪?
差在一個字:系統。市面上九成 AI 課教你調 API、寫 prompt、訓練一個小模型;MLSysBook 教的是「怎麼把機器學習跑成一個真正能上線的系統」──資料工程、部署、MLOps、邊緣運算、容錯、治理。用作者的話說,是教你在「機器學習」和「系統工程」的交叉點上思考。
全書分兩卷,走的是計算機教科書經典《Hennessy & Patterson》的路數:
| 卷別 | 主題 | 範圍 |
|---|---|---|
| Volume I | Build、Optimize、Deploy | 單機 ML 系統(1–8 張 GPU):基礎、優化、單節點部署 |
| Volume II | Scale、Distribute、Govern | 生產級分散式系統:多機基礎設施、容錯、大規模推理、治理 |
兩卷深度相同、範圍不同。Volume II 不強制先讀 Volume I,有底子的人可以直接跳。從一顆神經元的計算,一路教到整個機房的調度──這個跨度,正是它跟「三小時學會 ChatGPT」課程的距離。
除了課本,還送哪 7 套工具?
MLSysBook 最狠的地方是它不只是書,而是一整套課程體系。作者的設計邏輯:只讀書的學生內化不了,只寫程式的學生舉一反三不了,所以每個環節都配了動手的工具:
| 組件 | 做什麼 | 授權 |
|---|---|---|
| 📖 教科書兩卷 | 理論、心智模型、量化推理 | CC BY-NC-SA 4.0 |
| 🔥 TinyTorch | 20 個漸進模組,從零自建一個 ML 框架 | MIT |
| 🔬 Labs | 互動 notebook,改參數看系統哪裡爆掉 | CC BY-NC-SA 4.0 |
| 🔮 MLSys·im | 模擬器:算記憶體瓶頸、網路飽和──租不起的基礎設施用模的 | Apache 2.0 |
| 🛠️ Hardware Kits | 部署到 Arduino、Raspberry Pi,面對真實的記憶體和功耗限制 | CC BY-NC-SA 4.0 |
| 💼 StaffML | ML 系統職位面試題庫+模擬面試+進度追蹤 | AGPL v3 |
| 🎓 教師包+投影片 | 兩套 16 週課綱、評分準則、每章 slides | CC BY-NC-SA 4.0 |
整個學習迴圈是:讀 → 探索 → 自建 → 建模 → 部署 → 練面試 → 教別人。特別點名 TinyTorch:自己從零寫出一個迷你版 PyTorch。「你沒親手建過一個系統,就不算真的懂它」──這句是整套課程的靈魂。
完全新手能讀嗎?要什麼基礎?
門檻比想像中低:會寫 Python、碰過基本機器學習概念就夠。官方明說不需要計算機架構、分散式系統或機房營運背景,Volume I 從地基開始蓋。如果你連 Python 都還沒碰過,先去補一個月基礎再回來,不然讀起來會挫折。
要注意的是授權:教科書和實驗是 CC BY-NC-SA 4.0(非商業),拿來自學、開讀書會沒問題,但別直接包裝成付費課程賣──倒是 TinyTorch(MIT)和 MLSys·im(Apache 2.0)連商用都行。
怎麼開始?30 分鐘上手路線
- 打開 mlsysbook.ai,從 Volume I 第一章開始讀(不用註冊、不用留 Email)。
- 讀完第一章,跑 Lab 00 入門實驗,感受一下「改參數看系統反應」的教法。
- 覺得對胃口,就開 TinyTorch 的第 1 個模組,開始自建你的迷你框架。
- 已經在找工作的人,直接去 StaffML 刷 ML 系統面試題,對照自己的缺口決定從哪卷讀起。
為什麼這對你的荷包重要?
講直接一點:現在 AI 圈缺的不是會調 API 的人,是能把模型跑上生產環境的人。ML 基礎設施、MLOps、AI Infra 這類職位,薪資普遍比純「AI 應用」崗位高一截,而且門檻高、供給少。MLSysBook 教的正是這一段,還附面試題庫幫你變現學習成果。同樣的內容拿去補習班,學費夠你買一台不錯的筆電;這裡的成本是零元加上你的時間。
免費資源最大的成本從來不是錢,是你「收藏了卻不打開」的那個習慣。26,000 人按了星,真正讀完 Volume I 的可能不到一成──讀完的人,就贏在這裡。
不想啃這麼硬的,有什麼替代方案?
如果你的目標不是系統工程,MLSysBook 可能太硬。按目標挑:
| 資源 | 適合誰 | 價格 |
|---|---|---|
| MLSysBook(本文主角) | 想進 ML 基礎設施/MLOps 的人 | 免費 |
| fast.ai | 想快速做出模型應用、先實戰後理論 | 免費 |
| 《動手學深度學習》d2l.ai | 想補深度學習理論+程式碼、有中文版 | 免費 |
| Google ML Crash Course | 完全新手,想 15 小時內建立全貌 | 免費 |
對,你沒看錯,這一桌全是免費的。2026 年還在花大錢買入門 AI 課,多半是資訊差稅。想把 AI 工具用在日常工作流,可以先看我們寫過的 mattpocock/skills:10 萬星的 Claude Code 技能包;想看 AI 幫你寫程式的實戰,參考 codex-plugin-cc:讓 Claude Code 直接叫 Codex 幫你 review。
常見問題 FAQ
MLSysBook 真的完全免費嗎?
是。兩卷全文在 mlsysbook.ai 免費線上讀,另有 PDF/EPUB 可下載,配套工具全部開源。只有 2026 年 MIT Press 的實體印刷版需要花錢。
要先讀 Volume I 才能讀 Volume II 嗎?
不用。兩卷差在範圍不在深度:Volume I 講單機、Volume II 講大規模分散式。有基礎可以直接跳 Volume II,但官方建議的自然路徑還是 I 到 II。
非工程師值得讀嗎?
如果你只想用 AI 工具提升效率,不值得──去讀工具教學就好。但如果你在做 AI 產品決策、投資 AI 基礎設施相關公司,讀 Volume I 前幾章能讓你聽懂工程師到底在煩什麼,判斷力完全不同。
本文為資訊整理與個人觀點分享,不構成任何投資或職涯建議。課程內容、授權條款與星數為截至 2026 年 7 月的公開資料,以官方頁面最新資訊為準。
延伸閱讀:完整的 GitHub 熱門開源 AI 專案精選,20+ 個開源工具依用途分類收藏、持續更新。




發佈留言