5 月 31 日,全世界訂閱數最多的 YouTuber PewDiePie,沒有去開一間 AI 公司,而是丟了一個開源項目上 GitHub。四天,44,000 顆星。他在發片時只講了一句:「no tracking, no subscriptions, no funny business. It’s yours and yours forever.」

這件事為什麼會爆,重點不在技術。它把一個原本只有極客在玩的概念,推到了一億人面前:你用的 AI,其實可以裝在自己電腦裡,資料不出門,也永遠不用付月費。

而 PewDiePie 的 Odysseus 不是唯一一個。這類「自架 AI 工作台」這兩年已經長出一整個生態。這篇就把目前最值得收藏的 6 個整理給你,從新手到進階都有,告訴你各自適合誰、坑在哪。截至 2026 年 6 月資訊。

先講清楚:為什麼要把 AI 搬回自己電腦?

雲端 AI 好用,這點沒人否認。但你有沒有想過,你跟 ChatGPT、Claude 的關係,本質上是「租」——月費照繳,你打的字、傳的文件全都上了別人的伺服器,而且模型說換就換,今天還好用的版本,下個月可能就被廠商調走了。

自架 AI 工作台解決的就是這三件事:資料留在自己機器、沒有訂閱費、模型自己挑。對重視隱私的人、處理公司機密文件的人、或單純不想每個月被扣錢的人來說,這是另一條路。

但醜話先說在前面:自架不等於免費。電費、顯卡、維運、安全更新,這些成本全部從廠商的肩膀,搬到了你自己頭上。而且本機跑的開源模型,在真正難的任務上,目前還是打不過雲端旗艦。這篇每個工具我都會把這層說清楚。

1. Odysseus — 名人加持的一站式工作台

就是開頭講的那個。PewDiePie 親手做、MIT 授權,把聊天、自主 Agent、Deep Research、收信整理、行事曆、筆記、生圖全部塞進同一個介面。最聰明的設計叫 Cookbook:它會掃你電腦的顯卡和記憶體,然後從 270 多個模型裡,幫你挑出「你這台機器跑得動」的那幾個。

本機 AI 最勸退的一關,就是選型——一堆模型名稱看不懂,下載半天結果跑不動。Odysseus 直接幫你跳過這關,這是它對新手最大的價值。安裝也簡單,Docker 兩行指令起,預設開在 localhost:7000。

適合誰:想要一個「什麼都有」的入口、又不想自己研究選型的人。
要注意:它是 5 月底才生出來的新項目,作者自己在 README 都自嘲「more jank and fun」(更多小毛病、也更好玩),bug 難免。星數衝很快,但成熟度跟老項目還有距離。

2. open-notebook — 開源版的 NotebookLM

如果你用過 Google 的 NotebookLM,知道那種「丟一堆資料進去、然後跟它對話」的爽感,那 open-notebook 就是它的開源平替。截至 6 月 2 日是 v1.9.0 版本,24,100 顆星、2,800 個 fork,MIT 授權。

你可以丟 PDF、網頁、YouTube 連結、純文字、甚至音訊影片進去,它幫你做摘要、做全文跟向量搜尋,還能生成 podcast。最關鍵的是它支援 18 個以上的 AI 供應商——OpenAI、Anthropic、Ollama、LM Studio 都行,所以你可以全本機跑,機密文件完全不上雲。它用 Docker 跑在你的機器上。

適合誰:要做研究、整理大量資料、又不放心把文件丟給 Google 的人。
要注意:它的強項是「知識整理」,不是通用聊天。當日常 AI 助手用會覺得功能偏窄。

3. Open WebUI — 本機聊天介面的老大哥

如果只能裝一個,很多人會選它。Open WebUI 是這個圈子裡最成熟、功能最全的本機 AI 介面,可以完全離線運作,後端接 Ollama 或任何 OpenAI 相容的 API 都行。

它的本機 RAG(讓 AI 讀你的文件再回答)支援 9 種向量資料庫,內建生圖(可接本地的 ComfyUI),還能用 Python 寫自己的函式工具,甚至有權限管理(RBAC),多人共用也行。更新非常勤,幾乎每週都有新功能。一句話:它把雲端 ChatGPT 該有的,幾乎都在本機做出來了。

適合誰:動手能力強、想要最大彈性、喜歡折騰插件的人和小團隊。
要注意:功能多代表設定也多,新手第一次進去可能會被一堆選項嚇到。它偏「開發者導向」。

4. AnythingLLM — 把自己的文件變成私有知識庫

Open WebUI 偏技術,AnythingLLM 則走「好上手」路線,甚至有桌面 App,下載點開就能用。它的核心是「工作區」概念:把不同的文件和對話,分裝在彼此隔離的環境裡,做知識庫管理特別清楚。

它在文件處理上比基本 RAG 更進一步——有混合搜尋、重排序(reranking)、還有引用追蹤(告訴你答案是從哪份文件的哪一段來的)。這對需要「可追溯來源」的場景,例如公司合規、法務、客服知識庫,非常實用。

適合誰:商務團隊、有合規需求、想要快速上手不想折騰的人。
要注意:彈性和插件生態不如 Open WebUI,進階玩家可能會嫌它「太包好」。

5. Ollama — 不是工作台,是底層引擎

嚴格說 Ollama 不是「工作台」,而是讓你「一行指令在本機跑大模型」的引擎。但它太重要了,幾乎上面所有工具的底層都接它,所以一定要認識。光是 2026 年第一季,它的月下載量就到了 5,200 萬次——這早就不是實驗性軟體了。

你在終端機打一行 ollama run,它就幫你把模型抓下來、跑起來。新版也補上了 AMD 顯卡(ROCm)支援,不再是 NVIDIA 獨佔。它通常不單用,而是當 Open WebUI、open-notebook、AnythingLLM 的「發電廠」。

適合誰:所有想玩本機 AI 的人,這是地基。
要注意:它本身只有命令列,沒有漂亮介面。要好用,得搭配上面那幾個前端。

6. OpenClaw — 串起 50+ 通訊軟體的本地 Agent 閘道

前面五個多半圍著「聊天 + 文件」打轉,OpenClaw 走的是另一條路:它是跑在你自己裝置上的本地 Agent 閘道,能把 50 多個通訊軟體串在一起,讓 AI Agent 幫你跨平台收訊息、辦事情。

概念上更接近「私人 AI 助理的後台」——訊息不經過第三方雲端,全在本機處理。對重度使用即時通訊、又在意隱私的人來說,這是個有意思的方向。

適合誰:想讓 AI 自動處理跨平台訊息、且堅持資料不出門的進階用戶。
要注意:定位最特殊、門檻也最高,不是給「只想要一個本機 ChatGPT」的人用的。

一張表看完六個

工具一句話定位授權/費用適合誰上手難度
Odysseus名人做的一站式工作台,會幫你挑模型MIT/免費想要全功能入口的新手
open-notebook開源版 NotebookLM,資料研究神器MIT/免費做研究、整理文件的人
Open WebUI功能最全的本機聊天介面開源/免費愛折騰的進階用戶與團隊中高
AnythingLLM文件變私有知識庫,有桌面 App開源/免費商務團隊、合規需求
Ollama底層引擎,一行跑本機模型開源/免費所有人的地基
OpenClaw串 50+ 通訊軟體的本地 Agent 閘道開源/免費跨平台訊息重度用戶

如果是我,會怎麼選

不要六個全裝,沒意義。先想清楚你要解決什麼問題:

  • 完全新手、只想體驗看看:裝 Odysseus 或 AnythingLLM。一個有名人光環、功能全又會幫你挑模型;一個有桌面 App、點開就能用。兩個都不用先碰命令列。
  • 主力是做研究、整理大量資料:open-notebook,沒有對手。它就是衝著 NotebookLM 來的,而且你的機密文件不會上 Google。
  • 動手能力強、想要最大彈性:Ollama 當引擎 + Open WebUI 當前端,這是進階玩家的黃金組合,能調的東西最多。
  • 想玩跨平台 AI 助理:OpenClaw,但做好心理準備,它最硬核。

真正的分水嶺不是哪個工具最強,而是你願不願意自己扛維運。雲端是「花錢買省事」,自架是「花時間換掌控」。沒有誰對誰錯,只有你更在意哪一個。

結論:這波不是技術革命,是「主權」回歸

說穿了,這 6 個工具沒有一個是「全新發明」。它們做的事,雲端 AI 早就會了。真正在變的,是越來越多人開始問一個問題:我每天最常用的 AI,憑什麼要把資料交出去、還要按月付費?

PewDiePie 那句「The war on big tech has just begun」講得很重,但方向是對的。你不一定要明天就把雲端全砍掉——雲端旗艦在難題上還是強。比較務實的做法是:日常、隱私敏感、重複性的活,搬回本機;真正燒腦的難題,留給雲端。先從清單裡挑一個你最有感的痛點,動手裝起來,比看十篇評測都有用。

免責聲明:本文為工具整理與個人觀點分享,所有數據(GitHub 星數、版本、下載量等)截至 2026 年 6 月,AI 工具更新極快,實際功能與定價請以各項目官方頁面為準。自架軟體涉及硬體、電費與資安維運成本,請評估自身能力後再投入。本文不構成任何投資或採購建議。

關於Mr. Slash

「Mr. Slash 的系統性人生」,創立於 2024年,由 Mr. Slash 本人及專業編輯團隊經營的財經內容平台。

我們的宗旨是透過投資、財經、自動化與新興科技等領域的深入解說與應用,幫助讀者打造穩定的被動收入系統。內容涵蓋加密貨幣、股息資產、量化工具、平台分潤等實用策略,協助你用更聰明的方法配置資金、累積資產,走在財務自由的路上,少走冤枉路。

若為商業合作邀稿,將會清楚標註「不代表本站立場」。

商業合作

如果您有任何關於我們團隊或網站內容的疑問或建議,歡迎您前往IG 私訊 @slash.Capital聯繫我們,謝謝!

發表迴響

Trending

探索更多來自 Mr. Slash|系統流人生 的內容

立即訂閱即可持續閱讀,還能取得所有封存文章。

Continue reading

Join Mr. Slash