headroom:压缩 AI Agent 输入输出 token 的工具
在本地压缩发送给 LLM 的工具输出、日志、RAG 片段与对话历史,以库、代理或命令行包装方式减少 token 消耗。
Headroom(PyPI/npm 包名 headroom-ai)在内容到达 LLM 前对其压缩,声称在四个 Agent 场景中减少 21–57% 输入 token,对重复 JSON 数组和日志行可达 90% 以上,而散文压缩很少;压缩在本机运行,不外发 prompt 或文件内容。提供四种使用方式:Python/TypeScript 的 compress(messages) 库、本地代理(headroom proxy)、一条命令包装多种编码 Agent(headroom wrap/unwrap),以及提供 headroom_compress 等工具的 MCP server。工作原理是 ContentRouter 识别内容类型并选择压缩器,CacheAligner 标记会破坏 KV-cache 前缀的易变内容,CCR 将原文缓存在本地以便按需取回。README 还列出 GSM8K、TruthfulQA 等评测数据,并说明 N=100 时部分差异落在置信区间内。