阿里发布Agent运行层——诚实地报告每一分Token消耗
在我的实践中,同样的场景反复出现:Claude Code上的Agent一个接一个地调用工具,大量JSON文档涌入上下文。其中一半字段是空的 tags、 metadata: null,都是调试垃圾。但模型全部读取,我们为此付费。似曾相识的痛苦?
阿里团队决定系统性地解决这个问题,开源了ANOLISA——一个面向AI Agent工作负载的服务端覆盖层。名称代表Agentic Nexus Operating Layer & Interface System Architecture,但核心很简单:这是一套工具,不会替换你的Shell、框架或沙箱,而是位于Agent和系统之间。用Rust编写,采用Apache 2.0许可,支持Linux和macOS。
盒子里到底有什么
项目由十几个组件构成,但可分为三大领域。
第一——Agent入口点。这里主角是cosh-ng:一个保留熟悉Bash/Zsh行为的终端,但添加了能理解自然语言命令的Agent。危险操作执行前会确认。无需另外打开聊天窗口与机器人对话——一切都在同一个终端窗口中完成。还有用于内核调优的ktuner和一套具备DevOps专业知识的OS Skills。
第二,在我看来也是最有趣的——上下文节省。三个工具:Token-less在工具响应和模式到达模型前进行压缩,Agent Memory跨会话重用有用的上下文,AgentSight显示Token实际花在了哪里。
第三——运行时和安全:Agent Sec Core隔离危险操作,ws-ckpt存储工作区变更的回滚点,Blaze管理沙箱生命周期,SkillFS保持对当前Skill的关注。
Token-less:无需修改Agent代码的压缩
先从最切实的功能说起。Token-less位于Agent和模型之间,清理工具模式和响应中的冗余: debug和 trace这类字段进入黑名单,值为null的 metadata被丢弃,空数组被折叠。压缩是可逆的——被丢弃的数组元素仍可通过 <<tokenless:KEY>>标记访问,意味着Agent在需要时可以取回它们。
从架构上看,这很优雅:压缩发生在Agent和模型之间,所以无需更改Agent框架。插上适配器——就可以运行了。README中的数据:
| 优化内容 | Token节省 | 延迟 | |--------------------|------------------|----------| | 工具响应 | 65.8% | 46.85 μs | | 工具模式 | 47.3% | 11.44 μs | | 完整管道 | 62.9% | 198.91 μs |
几十微秒的延迟你根本察觉不到。在一次使用Claude Code观察到的任务运行中,系统节省了317K个Token,即40.5%——不过作者自己也坦诚地指出,结果取决于工作负载。
安装只需几分钟:
curl -fsSL https://get.agentic-os.sh | bash
export PATH="$HOME/.local/bin:$PATH"
anolisa install tokenless
anolisa adapter enable tokenless claude-code
重启Claude Code后,可以运行一个工具密集型任务并查看统计:
tokenless stats summary
tokenless stats list --limit 5
有一个值得提前了解的细节:节省只适用于进入上下文的工具响应,而非整个会话账单。对于Agent几乎不调用工具的任务,不会有任何收益。
AgentSight:显微镜下的Agent
第二个发现——AgentSight。在Linux上,它通过eBPF观察Agent,完全不触碰其代码。你可以看到从用户输入到模型和工具调用的完整路径,包括Token使用和子Agent分支,尽收眼底。这是来自内核级别的Agent观察:
对于调试Agent管道,这看起来比自定义日志器更方便的替代方案:eBPF系统性地捕获一切,而不是只在记得放追踪的地方才捕获。
安全:边界和退路
运行时模块中有两件事值得单独关注。
Agent Sec Core可以检测已签名Skill的替换。如果已签名的Skill发生了变化,Agent会将其标记为 drifted,在重新扫描前不会使用;重新扫描后被阻止的发现会记录为 deny状态。对于向Agent连接第三方Skill集的人来说,这是针对经典注入攻击的保护。
ws-ckpt存储工作区变更的恢复点。Agent在文件中翻找后把一切都搞坏了?可以回滚。就像是针对文件系统上Agent实验的Git。
谁需要这个
简单来说:
- Agent运行重型工具链、吃掉Token预算的团队——从Token-less开始,它三分钟安装完成,无需重写任何代码。
- 在终端工作、希望Agent就在手边而非在单独聊天窗口的人——cosh-ng。
- 需要精确了解Agent对系统做了什么的人——AgentSight加ws-ckpt给你可观测性和安全网。
值得一试吗
项目还很年轻:截至本文撰写时,仓库约有610个Star,大量开放issues(161个),社区目前主要活跃在钉钉上,这对英语开发者来说不是最方便的渠道。agentic-os.sh网站的文档相当全面,Quick Start涵盖了具体的首次运行场景。
我会从Token-less开始:风险最小,收益可观,安装简单,如果不行也容易回滚。Cosh-ng需要系统级安装——这是更大的投入,但对于那些在终端中工作的人来说,Shell与Agent融合的理念是有意义的。
Apache 2.0许可,Rust代码库,阿里背书。在你自己的任务上安装它,运行 tokenless stats,观察数字——它们比任何评测都更能说明问题。
相关项目