5 月 31 日,全世界訂閱數最多的 YouTuber PewDiePie,沒有去開一間 AI 公司,而是丟了一個開源項目上 GitHub。四天,44,000 顆星。他在發片時只講了一句:「no tracking, no subscriptions, no funny business. It’s yours and yours forever.」
這件事為什麼會爆,重點不在技術。它把一個原本只有極客在玩的概念,推到了一億人面前:你用的 AI,其實可以裝在自己電腦裡,資料不出門,也永遠不用付月費。
而 PewDiePie 的 Odysseus 不是唯一一個。這類「自架 AI 工作台」這兩年已經長出一整個生態。這篇就把目前最值得收藏的 6 個整理給你,從新手到進階都有,告訴你各自適合誰、坑在哪。截至 2026 年 6 月資訊。
先講清楚:為什麼要把 AI 搬回自己電腦?
雲端 AI 好用,這點沒人否認。但你有沒有想過,你跟 ChatGPT、Claude 的關係,本質上是「租」——月費照繳,你打的字、傳的文件全都上了別人的伺服器,而且模型說換就換,今天還好用的版本,下個月可能就被廠商調走了。
自架 AI 工作台解決的就是這三件事:資料留在自己機器、沒有訂閱費、模型自己挑。對重視隱私的人、處理公司機密文件的人、或單純不想每個月被扣錢的人來說,這是另一條路。
但醜話先說在前面:自架不等於免費。電費、顯卡、維運、安全更新,這些成本全部從廠商的肩膀,搬到了你自己頭上。而且本機跑的開源模型,在真正難的任務上,目前還是打不過雲端旗艦。這篇每個工具我都會把這層說清楚。
1. Odysseus — 名人加持的一站式工作台
就是開頭講的那個。PewDiePie 親手做、MIT 授權,把聊天、自主 Agent、Deep Research、收信整理、行事曆、筆記、生圖全部塞進同一個介面。最聰明的設計叫 Cookbook:它會掃你電腦的顯卡和記憶體,然後從 270 多個模型裡,幫你挑出「你這台機器跑得動」的那幾個。
本機 AI 最勸退的一關,就是選型——一堆模型名稱看不懂,下載半天結果跑不動。Odysseus 直接幫你跳過這關,這是它對新手最大的價值。安裝也簡單,Docker 兩行指令起,預設開在 localhost:7000。
適合誰:想要一個「什麼都有」的入口、又不想自己研究選型的人。
要注意:它是 5 月底才生出來的新項目,作者自己在 README 都自嘲「more jank and fun」(更多小毛病、也更好玩),bug 難免。星數衝很快,但成熟度跟老項目還有距離。
2. open-notebook — 開源版的 NotebookLM
如果你用過 Google 的 NotebookLM,知道那種「丟一堆資料進去、然後跟它對話」的爽感,那 open-notebook 就是它的開源平替。截至 6 月 2 日是 v1.9.0 版本,24,100 顆星、2,800 個 fork,MIT 授權。
你可以丟 PDF、網頁、YouTube 連結、純文字、甚至音訊影片進去,它幫你做摘要、做全文跟向量搜尋,還能生成 podcast。最關鍵的是它支援 18 個以上的 AI 供應商——OpenAI、Anthropic、Ollama、LM Studio 都行,所以你可以全本機跑,機密文件完全不上雲。它用 Docker 跑在你的機器上。
適合誰:要做研究、整理大量資料、又不放心把文件丟給 Google 的人。
要注意:它的強項是「知識整理」,不是通用聊天。當日常 AI 助手用會覺得功能偏窄。
3. Open WebUI — 本機聊天介面的老大哥
如果只能裝一個,很多人會選它。Open WebUI 是這個圈子裡最成熟、功能最全的本機 AI 介面,可以完全離線運作,後端接 Ollama 或任何 OpenAI 相容的 API 都行。
它的本機 RAG(讓 AI 讀你的文件再回答)支援 9 種向量資料庫,內建生圖(可接本地的 ComfyUI),還能用 Python 寫自己的函式工具,甚至有權限管理(RBAC),多人共用也行。更新非常勤,幾乎每週都有新功能。一句話:它把雲端 ChatGPT 該有的,幾乎都在本機做出來了。
適合誰:動手能力強、想要最大彈性、喜歡折騰插件的人和小團隊。
要注意:功能多代表設定也多,新手第一次進去可能會被一堆選項嚇到。它偏「開發者導向」。
4. AnythingLLM — 把自己的文件變成私有知識庫
Open WebUI 偏技術,AnythingLLM 則走「好上手」路線,甚至有桌面 App,下載點開就能用。它的核心是「工作區」概念:把不同的文件和對話,分裝在彼此隔離的環境裡,做知識庫管理特別清楚。
它在文件處理上比基本 RAG 更進一步——有混合搜尋、重排序(reranking)、還有引用追蹤(告訴你答案是從哪份文件的哪一段來的)。這對需要「可追溯來源」的場景,例如公司合規、法務、客服知識庫,非常實用。
適合誰:商務團隊、有合規需求、想要快速上手不想折騰的人。
要注意:彈性和插件生態不如 Open WebUI,進階玩家可能會嫌它「太包好」。
5. Ollama — 不是工作台,是底層引擎
嚴格說 Ollama 不是「工作台」,而是讓你「一行指令在本機跑大模型」的引擎。但它太重要了,幾乎上面所有工具的底層都接它,所以一定要認識。光是 2026 年第一季,它的月下載量就到了 5,200 萬次——這早就不是實驗性軟體了。
你在終端機打一行 ollama run,它就幫你把模型抓下來、跑起來。新版也補上了 AMD 顯卡(ROCm)支援,不再是 NVIDIA 獨佔。它通常不單用,而是當 Open WebUI、open-notebook、AnythingLLM 的「發電廠」。
適合誰:所有想玩本機 AI 的人,這是地基。
要注意:它本身只有命令列,沒有漂亮介面。要好用,得搭配上面那幾個前端。
6. OpenClaw — 串起 50+ 通訊軟體的本地 Agent 閘道
前面五個多半圍著「聊天 + 文件」打轉,OpenClaw 走的是另一條路:它是跑在你自己裝置上的本地 Agent 閘道,能把 50 多個通訊軟體串在一起,讓 AI Agent 幫你跨平台收訊息、辦事情。
概念上更接近「私人 AI 助理的後台」——訊息不經過第三方雲端,全在本機處理。對重度使用即時通訊、又在意隱私的人來說,這是個有意思的方向。
適合誰:想讓 AI 自動處理跨平台訊息、且堅持資料不出門的進階用戶。
要注意:定位最特殊、門檻也最高,不是給「只想要一個本機 ChatGPT」的人用的。
一張表看完六個
| 工具 | 一句話定位 | 授權/費用 | 適合誰 | 上手難度 |
|---|---|---|---|---|
| Odysseus | 名人做的一站式工作台,會幫你挑模型 | MIT/免費 | 想要全功能入口的新手 | 低 |
| open-notebook | 開源版 NotebookLM,資料研究神器 | MIT/免費 | 做研究、整理文件的人 | 中 |
| Open WebUI | 功能最全的本機聊天介面 | 開源/免費 | 愛折騰的進階用戶與團隊 | 中高 |
| AnythingLLM | 文件變私有知識庫,有桌面 App | 開源/免費 | 商務團隊、合規需求 | 低 |
| Ollama | 底層引擎,一行跑本機模型 | 開源/免費 | 所有人的地基 | 中 |
| OpenClaw | 串 50+ 通訊軟體的本地 Agent 閘道 | 開源/免費 | 跨平台訊息重度用戶 | 高 |
如果是我,會怎麼選
不要六個全裝,沒意義。先想清楚你要解決什麼問題:
- 完全新手、只想體驗看看:裝 Odysseus 或 AnythingLLM。一個有名人光環、功能全又會幫你挑模型;一個有桌面 App、點開就能用。兩個都不用先碰命令列。
- 主力是做研究、整理大量資料:open-notebook,沒有對手。它就是衝著 NotebookLM 來的,而且你的機密文件不會上 Google。
- 動手能力強、想要最大彈性:Ollama 當引擎 + Open WebUI 當前端,這是進階玩家的黃金組合,能調的東西最多。
- 想玩跨平台 AI 助理:OpenClaw,但做好心理準備,它最硬核。
真正的分水嶺不是哪個工具最強,而是你願不願意自己扛維運。雲端是「花錢買省事」,自架是「花時間換掌控」。沒有誰對誰錯,只有你更在意哪一個。
結論:這波不是技術革命,是「主權」回歸
說穿了,這 6 個工具沒有一個是「全新發明」。它們做的事,雲端 AI 早就會了。真正在變的,是越來越多人開始問一個問題:我每天最常用的 AI,憑什麼要把資料交出去、還要按月付費?
PewDiePie 那句「The war on big tech has just begun」講得很重,但方向是對的。你不一定要明天就把雲端全砍掉——雲端旗艦在難題上還是強。比較務實的做法是:日常、隱私敏感、重複性的活,搬回本機;真正燒腦的難題,留給雲端。先從清單裡挑一個你最有感的痛點,動手裝起來,比看十篇評測都有用。
免責聲明:本文為工具整理與個人觀點分享,所有數據(GitHub 星數、版本、下載量等)截至 2026 年 6 月,AI 工具更新極快,實際功能與定價請以各項目官方頁面為準。自架軟體涉及硬體、電費與資安維運成本,請評估自身能力後再投入。本文不構成任何投資或採購建議。
發表迴響