研究报告研究报告

AI 让资深程序员慢了 19%,但他们自己觉得快了 20%——这个悖论每个人都该知道

这篇论文是Aaron 2025 年读到的最重要的 AI 研究之一。它做了一件极其罕见的事:用严谨的随机对照试验去检验一个所有人都当真理的假设——AI 让程序员更快。 结果不仅打了脸,还揭示了一个更深层的问题:我们对 AI 的感知和 AI 的实际效果之间,存在一条巨大的鸿沟。 ——Aaron

FULL TEXT

详细文字内容

💬 Aaron点评

这篇论文是Aaron 2025 年读到的最重要的 AI 研究之一。它做了一件极其罕见的事:用严谨的随机对照试验去检验一个所有人都当真理的假设——AI 让程序员更快。 结果不仅打了脸,还揭示了一个更深层的问题:我们对 AI 的感知和 AI 的实际效果之间,存在一条巨大的鸿沟。 ——Aaron

🎯 这份报告说了什么

METR 让 16 位在知名开源项目上平均贡献了 5 年的资深开发者完成 246 个真实任务,每个任务随机分配为「可以用 AI」和「不能用 AI」,然后严格测量完成时间。

核心信息:在资深开发者 + 大型成熟代码库这个特定但重要的场景下,AI 不仅没帮上忙,还因为感知偏差导致了系统性的过度使用。

💡 为什么这很重要:这是第一项同时满足「前沿模型 + 真实任务 + 资深开发者 + 固定结果指标」的随机对照试验。它揭示了一个可能影响整个行业的认知偏差——「感觉有用」和「实际有用」之间可能隔着一道深渊。

📌 一、为什么这项研究与众不同

Aaron读 AI 提效研究一直有一个困扰:绝大多数研究都在「理想环境」里测。让新手写个 HTTP 服务器,Copilot 当然帮得上。但这代表真实工作吗?

METR 是第一项同时满足四个条件的研究——前沿模型、真实任务、资深开发者、固定结果指标。 缺任何一个,结论就可能有偏差。

这就好比之前的实验让运动员跑平地,METR 第一次让他们跑真正的越野赛道。结果发现 GPS 导航在越野赛道上不仅没帮忙,反而让人绕了远路。

📌 二、19% 减速背后的五个真正原因

原因一:过度乐观,停不下来

开发者全程在认知泡沫里——觉得 AI 有用所以持续使用,即使它实际在拖后腿。省力和省时间是两回事。 AI 接管了部分脑力劳动让你感觉「轻松」,但审查、修改、等待的时间悄悄吃掉了你省下的编码时间。

原因二:你太熟了,AI 反而帮不了你

开发者平均在仓库上贡献了 5 年、1500 次提交。专家已经把最优路径内化了,他们的「肌肉记忆」比 AI 的搜索更快更准。 在最熟悉的任务上,减速反而更严重。

原因三:代码库太大太复杂

这些仓库平均 10 年历史、110 万行代码。AI 的上下文窗口装不下整个代码库,对项目架构的理解是碎片化的。一位开发者说:「它在代码的其他部分做了一些奇怪的修改,让我花时间去查找和删除。」

原因四:可靠性太低,审查成本太高

光是「和 AI 打交道」就占了 13% 的时间,这些在不用 AI 时根本不存在。

原因五:AI 不懂你的潜规则

软件开发中有大量隐性知识——哪些边界情况要处理、哪段老代码不能动。AI 像一个「总是表现得很自信的新人」,不会说「我不确定」,直接给你一个看起来合理但违反项目潜规则的实现。

📌 三、时间都去哪了——屏幕录像揭示的真相

研究团队手动标注了 143 小时屏幕录像,这是最有操作价值的部分。

AI 确实减少了编码和搜索的时间,但新增了三种不存在于传统工作流的活动——提示、等待、审查。三者的总和超过了 AI 节省的时间。

Aaron把这叫做「AI 协作税」。每次把任务交给 AI 都要交三种税:提示税(翻译需求)、等待税(等生成)、审查税(逐行检查)。在简单任务上这些税值得交,但在资深开发者的日常维护任务上,手写 10 分钟的事交完税反而花了 15 分钟。

更隐蔽的是,这三种税是分散支付的。你只记得 AI 秒出了一段代码的「哇」瞬间,不会记得自己花了 3 分钟写提示、等了 1 分钟、又花了 5 分钟修改。人类记忆对戏剧性时刻敏感,对分散的琐碎消耗不敏感——这正是感知偏差的认知根源。

📌 四、如果真没用,为什么 69% 的人不放弃?

实验结束后,69% 的开发者继续使用 Cursor。三种可能的解释:

以速度换轻松

AI 没让你更快,但让你更舒服。对按小时付费的开发者来说,用更少脑力完成相同工作——即使慢一点——可能是划算的。

认知失调

当你已经投入时间学习工具、建立了「AI 有用」的信念,承认「它让我变慢了」需要推翻自己。大多数人不会这么做。

AI 确实在某些任务上有用

在开发者预测高提速的任务上,AI 确实没拖后腿。问题出在那些以为有用但其实没用的任务上——而他们分不出来。

Aaron的判断:AI 的问题不是「有没有用」,而是「你知不知道什么时候该用」。 资深开发者判断任务难度很准,但判断「AI 能否帮上忙」时完全失灵。这是一种新型元认知盲区。

📌 五、这不意味着 AI 没用——但叙事需要修正

报告作者专门列了防误读指南:

AI 编程辅助的「有效区间」假说

💎 精华提炼

第一,「感觉有用」和「实际有用」之间可能隔着一道深渊。 这适用于所有 AI 工具。你觉得 ChatGPT 帮你写邮件更快了,你测过吗?人类对 AI 效果的感知可能系统性偏高——因为 AI 减少的是认知负荷(让你感觉轻松),但不一定减少总时间。

第二,AI 在你不熟悉的领域帮助最大,在你最擅长的领域帮助最少甚至有害。 十年经验的 Python 工程师让 AI 帮他写维护了五年的代码,和让 AI 帮他写不熟悉的前端代码——是完全不同的两件事。

第三,我们需要从「AI 有没有用」升级到「在什么条件下有用」。 Aaron自己在用 Claude Code 时也有类似感受:搭建新项目、写不熟悉的语言时 AI 是加速器,但修改维护两年的核心逻辑时,向 AI 解释上下文的时间比自己直接写还多。这份报告第一次用数据证明了这个直觉。

如果你是每天用 Cursor 的资深开发者,不需要恐慌。你需要做的不是放弃 AI,而是开始有意识地追踪——哪些任务用 AI 确实快了,哪些只是觉得快了。真正的高手不是盲目信任工具的人,是知道什么时候该放下工具的人。

🌟 对 AI 学习者的启示

这一段是Aaron读完整份报告后,专门写给正在学 AI、用 AI 的你。

认知刷新:你可能以为 AI 编程工具一定让你更快,但 METR 用随机对照实验证明:资深开发者用 AI 后平均慢了 19%,而他们自己觉得快了 20%。「感觉有用」和「实际有用」之间可能隔着一道深渊。

实操建议:从今天开始有意识地追踪——哪些任务用 AI 确实快了,哪些只是觉得快了。一个简单方法:偶尔故意不用 AI 完成一个任务,跟上次用 AI 的时间做对比。真正的高手是知道什么时候该放下工具的人。

趋势判断:Aaron认为 AI 编程工具在 6-12 个月内会经历一次大分化——对新手和不熟悉代码库的人提效显著,对资深维护者可能仍然拖后腿。工具厂商会开始根据「用户经验」和「代码库熟悉度」做智能路由,而不是一刀切的全场景覆盖。

📋 文档信息

资源

📎 20250710-METR-AI-Developer-Productivity-翻译版.md

📎 20250710-METR-AI-Developer-Productivity-原版.md

📊 本页表格(7 张,从原数据库还原)

数据Aaron解读维度
AI 会快 24%信念:AI 当然有用开发者事前预测
AI 快了 20%用完还是觉得有用!开发者事后估计
慢 19%所有人的预测方向都错了实际测量结果
<44%超过一半被拒绝Cursor 生成接受率
100%没有一个人能直接用需修改 AI 代码的开发者
经历了减速不是个别现象75% 的开发者
研究结果资深开发者?真实任务?前沿模型?
Peng 等快 56%
Weber 等快 65%
METR慢 19%
指标数据
AI 生成接受率<44%
逐行阅读 AI 代码75% 的开发者
审查/清理占总时间~9%
等待 AI 生成~4%
活动变化允许 AI禁止 AI
主动编码AI 替代了一部分较少较多
提示 AI新增活动
等待 AI新增活动~4%
审查 AI新增活动~9%
报告没有证明正确的理解
AI 对大多数程序员没用只研究了资深开发者 + 大型仓库
未来 AI 不会更快模型进步以月计,几个月就可能翻盘
没有更好的使用方式更好的提示、更多 token 可能改变结果
AI 可能拖后腿条件AI 可能提速
核心维护者开发者经验对目标代码库不熟悉
百万行成熟项目项目规模小型项目
深度维护、复杂重构任务类型探索性、原型搭建
高(大量潜规则)隐性知识量低(文档完善)
内容项目
Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity报告名称
METR(Model Evaluation & Threat Research)发布机构
Joel Becker, Nate Rush, Beth Barnes, David Rein作者
2025 年 7 月发布日期
16 位资深开源开发者,跨 15 个仓库的 246 个任务,143 小时标注屏幕录像数据来源
Aaron教程撰写
教程版(Aaron视角深度解读)文档类型
STRUCTURED NEXT STEP

继续进入结构化课程或精选资产