截至 2026 年 6 月。本文工具數據以 GitHub 官方頁面與專案文件為準。
先講一個讓我愣住的數字:同一段內容,餵進 AI 之前先過一道工序,token 從 10,144 掉到 1,260。少了快九成。而 AI 給出的答案,一字不差,連那個關鍵的 FATAL 錯誤都照樣抓到。
這個工具叫 headroom,這兩天在 GitHub 上突然衝起來,一天加了一千多顆星。它做的事情聽起來不性感,但只要你有在認真用 AI——尤其是用 API、用 AI 寫代碼、跑 agent——它戳的就是你每個月最痛的那條神經:帳單。
headroom 到底在幹嘛?一句話:餵 AI 之前,先把廢話剪掉
你跟 AI 對話、或是讓 AI agent 自己幹活的時候,背後其實塞了一大堆東西進去:工具的執行結果、一長串日誌、整個檔案、RAG 撈回來的文件片段、還有越滾越長的對話歷史。這些全部都算 token,全部都要付錢,而且很大一部分是純垃圾——重複的、格式化的、AI 根本不需要逐字讀的。
headroom 就卡在「你的資料」和「LLM」之間,當一道過濾網。內容進 LLM 之前先壓縮,官方說法是砍掉 60% 到 95% 的 token,但答案維持一樣。重點在最後這四個字。市面上一堆「省 token」的方法本質是粗暴截斷,砍著砍著答案就歪了。headroom 走的是另一條路,等下講原理。
還有一個我蠻在意的設計:它跑在你自己的機器上(local-first),資料不會先送到某個第三方 API 再回來。對於不想把代碼或內部日誌外送的人,這點很關鍵。
四種用法,總有一種不用你改代碼
headroom 最聰明的地方是它不逼你改架構。它給了四個接入點,從「一行都不用改」到「深度嵌進你的程式」都有:
- 函式庫(Library):在 Python 或 TypeScript 裡直接
compress(messages),嵌進你自己的 app。適合自己寫程式的人。 - 代理(Proxy):一行指令
headroom proxy --port 8787起一個本地代理,零代碼改動,任何語言都能用。這是懶人最愛。 - 包住 agent(wrap):
headroom wrap claude之類,直接把 Claude Code、Codex、Cursor、Aider、Copilot 這些 coding agent 罩起來。 - MCP server:提供
headroom_compress、headroom_retrieve、headroom_stats三個工具,給任何支援 MCP 的客戶端調用。
如果你完全不會寫代碼,proxy 模式基本就是你的解。起一個本地端口,把請求繞過去,省下來的 token 自己會算給你看。
它怎麼做到「砍九成還不歪」?
關鍵在於它不是一招打天下,而是先判斷內容是什麼類型,再派對應的壓縮器去處理。專案裡有個 ContentRouter 負責這個分流:
- SmartCrusher:專門對付 JSON。API 回傳那種一層套一層、欄位名重複到天荒地老的結構,它最有效。
- CodeCompressor:用 AST(抽象語法樹)的方式理解代碼,而不是當純文字硬砍,所以不會把程式邏輯切壞。
- Kompress-base:處理一般文字散文,背後是它們自己放在 HuggingFace 上的壓縮模型。
另外兩個零件也值得提。CacheAligner 會穩定 prompt 的前綴,讓供應商那邊的 KV cache 真的命中——這等於是在省錢之上再省一層。還有一個我覺得最體貼的設計叫 CCR,可逆壓縮:原始內容從來不刪,只是先收起來;萬一 AI 真的需要被砍掉的細節,它會自己調用 headroom_retrieve 把原文撈回來。所以你不用擔心「壓縮過頭把重要資訊弄丟」這件事,後悔藥它幫你備好了。
數據說話:省多少、準不準
口說無憑,看官方放出來的實測。先看省了多少(真實 agent 工作負載):
| 工作場景 | 壓縮前 | 壓縮後 | 省下 |
|---|---|---|---|
| 程式碼搜尋(100 筆結果) | 17,765 | 1,408 | 92% |
| SRE 故障排查 | 65,694 | 5,118 | 92% |
| GitHub issue 分類 | 54,174 | 14,761 | 73% |
| 整個程式庫探索 | 78,502 | 41,254 | 47% |
省得最兇的是那種充滿重複格式的場景,像程式碼搜尋結果跟系統日誌,動輒砍九成。比較「有血有肉」、本身就沒什麼廢話的內容(例如探索整個 codebase),省的幅度就回落到四成多。這其實很合理,也比那種「不管什麼都號稱省 90%」的宣傳誠實。
那準確率呢?這才是我最關心的。它跑了幾個標準 benchmark 對照:
| 測試 | 類別 | 原始分數 | 用 headroom 後 |
|---|---|---|---|
| GSM8K | 數學 | 0.870 | 0.870(持平) |
| TruthfulQA | 事實 | 0.530 | 0.560(反而升) |
| SQuAD v2 | 問答 | — | 壓 19% 下準確率 97% |
| BFCL | 工具調用 | — | 壓 32% 下準確率 97% |
數學題持平、事實題甚至小升。我猜後者是因為把雜訊清掉之後,模型反而更專注。當然 benchmark 永遠是參考值,你自己的工作負載要自己試,但至少這組數字說明「省 token」和「答案變爛」不必然綁在一起。
三十秒上手
需要 Python 3.10 以上。三步:
# 1 安裝(Python 全功能版)
pip install "headroom-ai[all]"
# 或 Node / TypeScript
npm install headroom-ai
# 2 挑一種模式
headroom wrap claude # 罩住你的 coding agent
headroom proxy --port 8787 # 零代碼改動的代理
# 3 看省了多少
headroom stats
用 Docker 的話 docker pull ghcr.io/chopratejas/headroom:latest 也行。整套 Apache 2.0 授權,商用沒問題。
還有兩個藏起來的彩蛋
第一個是跨 agent 共用記憶。如果你同時用 Claude、Codex、Gemini,它們之間可以共享一份記憶庫,還會自動去重。你在 Claude 那邊踩過的坑,Codex 不用再踩一次。
第二個更妙,叫 headroom learn。它會去挖你那些失敗的 session,分析哪裡出錯,然後把修正建議直接寫進 CLAUDE.md 或 AGENTS.md 這類規則檔。等於是讓你的 AI 自己從失敗裡學乖。這個方向我覺得比單純省 token 還有想像空間。
誰該裝、誰可以先跳過
講優點講完了,講點實在的。這工具不是人人都需要。
適合你,如果:每天都在跑 AI coding agent、想省錢又不想改代碼;同時用好幾個 agent、想要一份共用記憶;或者你需要「壓縮可逆」這個保險,不接受任何資訊永久消失。
可以先跳過,如果:你只用單一供應商、用它內建的對話壓縮就夠了,也沒有跨 agent 的需求;或者你的環境是被鎖死的沙盒,跑不了本地進程。
另外得提醒一句:它一天加一千多顆星沒錯,但總星數還在六千多,算是個很新的專案。我的態度是——值得現在就裝來玩,但別馬上接到生產環境的關鍵路徑上。先在不痛不癢的工作流跑一陣子,看 headroom stats 給你的真實數字,再決定要不要 all in。
我的看法
2025 年大家比的是模型誰更聰明,2026 年的暗線是誰更便宜。當 token 成了真金白銀的成本,「在餵進去之前先壓縮」這種基礎建設層的工具,注定會越來越多人需要。headroom 不是第一個做這件事的,但它把函式庫、代理、agent wrap、MCP 四條路一次鋪好,又堅持本地跑、又做可逆,這個完成度在同類裡確實亮眼。
如果你最近在為 AI API 帳單肉痛,或是 agent 動不動就 context 爆掉,這個週末花十分鐘裝來試試,可能是你這個月投報率最高的十分鐘。專案在這:github.com/chopratejas/headroom。
免責聲明:本文為工具介紹與個人使用心得,不構成任何投資或採購建議。文中數據引用自專案官方 GitHub 頁面,AI 工具更新極快,實際功能與定價請以官方最新公告為準。
延伸閱讀:更多 AI 工具與趨勢
- pxpipe 是什麼?把 Claude Code 的 token 帳單砍 70% 的開源神器(2026 實測+該不該裝)
- codebase-memory-mcp 是什麼?給 AI agent 裝『程式碼記憶』,同一件事省 99% token(2026 GitHub 日榜實測)
- CodeGraph 實測:幫 Claude Code 省下 35% 帳單的開源神器,一天爆紅 4,000 星
- LLM 下半場的四聲槍響:這週矽谷最懂 AI 的四個人,集體轉向了
延伸閱讀:站內相關文章
延伸閱讀:其他專門在壓 AI 開銷的工具。
- PxPipe——替 Claude Code 壓掉 70% token 的中介層。
- codebase-memory-mcp——給 AI agent 裝程式碼記憶,省 99% token。
- Claude 的 usage credits 怎麼算——Pro 與 Max 方案的額度拆解。





發佈留言