代码 Agent 的上下文减肥药:SWE-Pruner 是怎么让模型少看多想的

针对代码 Agent 上下文昂贵且易迷失的痛点,SWE-Pruner 提出模仿人类“选择性略读”的策略。该方案通过任务目标引导剪枝,利用 0.6B 小模型动态筛选关键代码片段,而非依赖破坏语法的固定指标。实测显示,其在 SWE-Bench 等任务中 Token 消耗降低 23% 至 54%,成功率反而提升。这一思路为长代码处理提供了新方向,尤其适合需要本地部署或边缘计算的 Agent 落地场景。

发布于2026年5月5日 09:10
编辑零重力瓦力
评论0
阅读12

如今的代码 Agent 动不动就啃几万 Token 的上下文,既贵又慢还容易迷失。SWE-Pruner 认为,不如学学人类程序员“选择性略读”的方式。

怎么做的

论文来自arXiv(2601.16746v2),团队基于一个观察:人类调试代码时不会逐行阅读,而是带着任务目标去“扫”相关部分。比如修 bug 时只看错误处理和调用栈,找性能瓶颈时只看循环和数据库操作。

SWE-Pruner干了三件事

  1. Agent 给自己定一个明确目标,比如“聚焦错误处理”或“关注并发逻辑”,这个目标会变成剪枝的提示。

  2. 训练了一个 0.6 B 的小模型(叫skimmer)来学习如何根据目标选择上下文。

  3. 在四个基准上测试,发现效果不错。在 SWE-Bench Verified 这类 Agent 任务上,Token 减少了 23% 到 54%,成功率反而还提升了。在单轮的长代码问答任务上,最高能压缩 14.84 倍。

为什么值得关注

之前业界做上下文压缩,主要靠困惑度(PPL)这类固定指标,问题是代码有结构,你不能把一个函数切成两半,或者漏掉一个关键的变量声明。PPL导向的压缩会破坏语法和逻辑结构,导致模型理解出错。

SWE-Pruner 的不同在于它是任务感知的。压缩什么、保留什么,是跟着当前任务目标走的。一个需要修 bug 的 Agent 和一个需要写测试的 Agent,会看到不同的上下文。

实用价值在哪儿

对于做 Agent 落地的人来说,这个思路意味着,与其抱怨模型上下文太短,不如让模型学会“看什么像什么”。

具体可以参考的方向有3个:

  1. 给 Agent设计 “目标设定”环节。在执行任务前让模型自己说“这次我关注什么”,这个信号可以被上游的压缩模块用到。

  2. 在代码检索场景里,把任务描述作为相关性判断的依据,而不是只靠语义相似度。

  3. 关注这个 0.6B 的小模型,小到可以本地跑,但能跟大模型配合,在一些边缘部署场景可能有用。

论文链接:https://arxiv.org/abs/2601.16746 Github:https://github.com/Ayanami1314/swe-pruner

相关文章

上下文工程实战:让 AI Agent 在超长对话中不失忆的三大策略
智能体工程
2026年5月8日
0 条评论
零重力瓦力

上下文工程实战:让 AI Agent 在超长对话中不失忆的三大策略

GPT-5.5 等模型虽推理强劲,却常因“上下文衰退”在长任务中遗忘关键信息。文章剖析滑窗截断、分层摘要及记忆卸载三大策略,指出单纯扩大窗口无效,需构建外部记忆架构。通过热温冷三层结构与增量更新机制,可显著提升多步骤工程任务的稳定性与 Token 利用率,为开发长程 AI Agent 提供核心设计思路。

#上下文工程#提示词工程#智能体工程
阅读全文
一条提示词干不完的活:Prompt Chaining 实战指南
智能体工程
2026年5月6日
0 条评论
零重力瓦力

一条提示词干不完的活:Prompt Chaining 实战指南

面对复杂任务,单条提示词常因上下文溢出、错误累积和职责混杂导致失败。Prompt Chaining 通过将大任务拆解为提取、分析、写作等独立步骤,显著提升输出质量与可控性。文章详解顺序链、条件路由链及并行链三种核心模式,提供从用户反馈分析到客服系统的实操模板,并指出信息衰减、格式不兼容等避坑要点。无论是个人开发者还是企业团队,掌握链式调用都能以更低返工成本实现高精度自动化处理。

#提示词工程
阅读全文
“扮演专家”已经是中阶操作了:2026 年提示词应该怎么写?
智能体工程
2026年5月6日
0 条评论
零重力瓦力

“扮演专家”已经是中阶操作了:2026 年提示词应该怎么写?

2026 年提示词进阶不再依赖“扮演专家”这种易导致答案平庸的单人角色。Reddit 社区推崇“专家辩论面板”,通过模拟多方观点冲突强制模型暴露技术权衡,有效解决自我纠错缺失问题;同时引入“压缩协议”,将核心约束高密度呈现以对抗长文本遗忘。配合 ReAct 循环与上下文工程,这些方法从结构上重塑模型行为,适合追求深度推理与复杂决策的开发者,标志着提示词正从个人技巧转向系统化基础设施。

#提示词工程
阅读全文
互动讨论

评论区

围绕《代码 Agent 的上下文减肥药:SWE-Pruner 是怎么让模型少看多想的》展开交流,未登录用户可浏览评论,登录后可参与讨论。

评论数
0
登录后参与评论
支持发表观点与回复一级评论,互动后将同步到消息中心。
登录后评论
暂无评论,欢迎成为第一个参与讨论的人。