1.0.169
对应仓库当前发布的版本。完整变更请查看 GitHub Releases。
优化编程代理的上下文窗口占用,把工具调用产生的大量中间输出隔离开,让有限的上下文留给真正重要的内容。
关于上下文的讨论多数集中在「怎么塞进更多信息」,但还有另一半问题:上下文常常不是被有用的信息占满的,而是被工具调用返回的大段中间结果、日志和文件内容挤爆的。真正需要模型记住的东西反而被挤了出去。这个项目处理的正是这一半——把这类中间输出隔离出去,只把结论和必要片段留在上下文里,从而在同样的窗口下让代理走得更远,也更不容易在长任务中忘掉前面的约定。项目在开发者社区中获得过较高关注度。需要留意的是它采用 Elastic License 2.0,不是标准的开源许可证。
npm install -g context-mode安装后按文档接入你所用的代理环境,它会在工具调用产生大量输出时自动处理,不需要你每次干预。日常使用中最直接的感受是长任务里代理更少偏离,以及同样的窗口能撑更久。
对应仓库当前发布的版本。完整变更请查看 GitHub Releases。
它采用 Elastic License 2.0,这不是标准的开源许可证。主要限制是不能把本产品作为托管或托管式服务提供给第三方,也不能规避许可密钥功能。自己使用和内部使用通常没有问题,商用前请阅读仓库中的许可证原文。
那类技能压缩的是模型输出的文字,这个处理的是输入侧——工具调用返回的日志、文件内容等中间结果。两者针对的是上下文的不同来源,可以同时使用。