>_ DevTrendszh

语言

首页

语言

板块

前端 后端 移动端 DevOps AI / ML 游戏开发 区块链 嵌入式 安全
Rust

阿里发布Agent运行层——诚实地报告每一分Token消耗

在我的实践中,同样的场景反复出现:Claude Code上的Agent一个接一个地调用工具,大量JSON文档涌入上下文。其中一半字段是空的 tagsmetadata: null,都是调试垃圾。但模型全部读取,我们为此付费。似曾相识的痛苦?

阿里团队决定系统性地解决这个问题,开源了ANOLISA——一个面向AI Agent工作负载的服务端覆盖层。名称代表Agentic Nexus Operating Layer & Interface System Architecture,但核心很简单:这是一套工具,不会替换你的Shell、框架或沙箱,而是位于Agent和系统之间。用Rust编写,采用Apache 2.0许可,支持Linux和macOS。

盒子里到底有什么

项目由十几个组件构成,但可分为三大领域。

第一——Agent入口点。这里主角是cosh-ng:一个保留熟悉Bash/Zsh行为的终端,但添加了能理解自然语言命令的Agent。危险操作执行前会确认。无需另外打开聊天窗口与机器人对话——一切都在同一个终端窗口中完成。还有用于内核调优的ktuner和一套具备DevOps专业知识的OS Skills

第二,在我看来也是最有趣的——上下文节省。三个工具:Token-less在工具响应和模式到达模型前进行压缩,Agent Memory跨会话重用有用的上下文,AgentSight显示Token实际花在了哪里。

第三——运行时和安全:Agent Sec Core隔离危险操作,ws-ckpt存储工作区变更的回滚点,Blaze管理沙箱生命周期,SkillFS保持对当前Skill的关注。

Token-less:无需修改Agent代码的压缩

先从最切实的功能说起。Token-less位于Agent和模型之间,清理工具模式和响应中的冗余: debugtrace这类字段进入黑名单,值为null的 metadata被丢弃,空数组被折叠。压缩是可逆的——被丢弃的数组元素仍可通过 <<tokenless:KEY>>标记访问,意味着Agent在需要时可以取回它们。

从架构上看,这很优雅:压缩发生在Agent和模型之间,所以无需更改Agent框架。插上适配器——就可以运行了。README中的数据:

| 优化内容 | Token节省 | 延迟 | |--------------------|------------------|----------| | 工具响应 | 65.8% | 46.85 μs | | 工具模式 | 47.3% | 11.44 μs | | 完整管道 | 62.9% | 198.91 μs |

几十微秒的延迟你根本察觉不到。在一次使用Claude Code观察到的任务运行中,系统节省了317K个Token,即40.5%——不过作者自己也坦诚地指出,结果取决于工作负载。

安装只需几分钟:

curl -fsSL https://get.agentic-os.sh | bash
export PATH="$HOME/.local/bin:$PATH"
anolisa install tokenless
anolisa adapter enable tokenless claude-code

重启Claude Code后,可以运行一个工具密集型任务并查看统计:

tokenless stats summary
tokenless stats list --limit 5

有一个值得提前了解的细节:节省只适用于进入上下文的工具响应,而非整个会话账单。对于Agent几乎不调用工具的任务,不会有任何收益。

AgentSight:显微镜下的Agent

第二个发现——AgentSight。在Linux上,它通过eBPF观察Agent,完全不触碰其代码。你可以看到从用户输入到模型和工具调用的完整路径,包括Token使用和子Agent分支,尽收眼底。这是来自内核级别的Agent观察:

对于调试Agent管道,这看起来比自定义日志器更方便的替代方案:eBPF系统性地捕获一切,而不是只在记得放追踪的地方才捕获。

安全:边界和退路

运行时模块中有两件事值得单独关注。

Agent Sec Core可以检测已签名Skill的替换。如果已签名的Skill发生了变化,Agent会将其标记为 drifted,在重新扫描前不会使用;重新扫描后被阻止的发现会记录为 deny状态。对于向Agent连接第三方Skill集的人来说,这是针对经典注入攻击的保护。

ws-ckpt存储工作区变更的恢复点。Agent在文件中翻找后把一切都搞坏了?可以回滚。就像是针对文件系统上Agent实验的Git。

谁需要这个

简单来说:

  • Agent运行重型工具链、吃掉Token预算的团队——从Token-less开始,它三分钟安装完成,无需重写任何代码。
  • 在终端工作、希望Agent就在手边而非在单独聊天窗口的人——cosh-ng。
  • 需要精确了解Agent对系统做了什么的人——AgentSight加ws-ckpt给你可观测性和安全网。

值得一试吗

项目还很年轻:截至本文撰写时,仓库约有610个Star,大量开放issues(161个),社区目前主要活跃在钉钉上,这对英语开发者来说不是最方便的渠道。agentic-os.sh网站的文档相当全面,Quick Start涵盖了具体的首次运行场景。

我会从Token-less开始:风险最小,收益可观,安装简单,如果不行也容易回滚。Cosh-ng需要系统级安装——这是更大的投入,但对于那些在终端中工作的人来说,Shell与Agent融合的理念是有意义的。

Apache 2.0许可,Rust代码库,阿里背书。在你自己的任务上安装它,运行 tokenless stats,观察数字——它们比任何评测都更能说明问题。

相关项目