外包所失去的 — 自动化削弱能力的方式并不均匀

引言 — 没有人会因为用计算器而感到内疚

几乎没有成年人会因为心算不好而自责。几乎没有人会因为一个电话号码都记不住而担心自己的记性。让人不看地图去一个陌生的地方,他们会犯难,但没有人会把这称为能力的退化。

可是,发送出一份AI代笔的报告之后,大多数人多少会觉得不太踏实。把整段代码原样接过来粘贴上去,测试通过了,松一口气的同时,总还残留着某种说不清的东西。

这种不对称,才是真正的问题。 为什么有些委托显得毫无负担,有些委托却让人不安?这只是对新事物的陌生感,还是那种不安其实指向了什么准确的东西?

先说结论:自动化对能力的影响并不均匀。而恰恰是这种不均匀,才让这件事变得有意思。有些能力交出去之后什么都不会发生,有些能力则被测量出确实会被削弱,而眼下大多数知识工作,都处在一片尚未有答案的中间地带。

可以放心失去的东西 — 外包纯属受益的情形

首先要诚实地承认一点:认知外包的历史,大部分都是成功的历史。

文字被发明出来的时候,苏格拉底在《斐德罗篇》里担心它会毁掉记忆力。他说对了一半。我们确实再也没法把整部史诗背下来了。而作为交换,整个文明都摆脱了"个人记忆容量"这个瓶颈。这不是一笔亏本的交易。

计算器也是一样。以失去心算三位数乘法的能力为代价,人们把时间花在了该乘什么上,而不是乘法本身。拼写检查器是这样,电话簿也是这样。

从这里可以提炼出一个模式。外包安全的情形,大致要满足三个条件。第一,结果可以被独立验证。 计算器算错了,靠估算就能察觉。第二,这项能力不是其他能力的原材料。 记住一个电话号码,不会成为任何其他思考过程的输入。第三,没有工具的情况在现实中基本不会出现。

这三个条件里只要有一个被打破,情况就不一样了。而现实中确实存在这样的例子。

GPS这条模糊的边界线

找路是第一个让上述第三个条件开始动摇的例子。电池会没电,信号会中断。

2020年发表在《科学报告》上的达马尼与博博的研究常被引用。研究测量了50名司机一生的GPS使用经验以及若干种空间记忆能力,结果发现,一个人一生中用GPS用得越多,在没有GPS、需要自己找路时,空间记忆的成绩就越差。 三年后,研究者又追踪回访了其中13人,期间用GPS更多的人,海马体依赖的空间记忆下降幅度更大。

不能到此为止。这项研究的局限性,研究者自己就说明了。

主要结果是一项相关性研究。因果的箭头有可能是反过来的——本来方向感就差的人,可能更容易依赖GPS,这或许还是更自然的解释。纵向追踪的部分在一定程度上缩小了这种可能性,但三年后回访到的只有13个人。十三个人。这个数字很难滤掉个体差异带来的噪音。

所以准确的总结应该是这样的:不是"GPS会毁掉大脑",而是"有迹象表明找路能力会随使用量变化,而这个迹象目前还很小,因果方向也尚未确定。" 第一句话是新闻标题,第二句话才是研究本身。

航空 — 记录最完备的案例,以及一个与常识相反的结局

对自动化依赖研究得最久、最认真的领域是航空业。因为在这里,能力一旦被削弱,是会死人的。

常识是这样流传的:"现在的飞行员太依赖自动驾驶,已经不会手动开飞机了。"美国联邦航空局下属工作组在2013年一份关于飞行路径管理系统运行的报告中,确实把手动飞行技能和情境意识的下降列为主要担忧。

但真正去检验这个常识的研究,却发现了别的东西。 卡斯纳及同事2014年发表在《人因》杂志上的《自动化驾驶舱时代的手动飞行技能》一文,让16名航空公司飞行员在波音747-400模拟器中系统性地改变自动化水平,分别飞行正常和异常场景,并且追问他们在飞行过程中到底在想什么。

结果分成了两个方向。

仪表扫描和操纵杆技能大体上完好无损——即便飞行员自己都反映"最近很少有机会手动操纵"。刻进身体的感觉运动技能,比预想的更经得住考验。

相反,手动飞行所需要的认知任务却明显退化了。 在脑子里保持对当前飞行方向的把握,回想下一步的程序,把管制指令转化为航线计划——错误集中出现在这些地方,而且同样的失误反复出现。 研究团队的总结很简洁:认知技能比精神运动技能衰退得更快。

这为什么重要?常识说的是"手生疏了",但实际生疏的是脑子——不是握操纵杆的手法,而是握着操纵杆的同时,把整个局面记在脑子里的那种能力。

局限性也要说清楚。参与者只有16人,是在模拟器中进行的,反映的是特定机型和特定时代的训练惯例。把飞行员——一个经过高度筛选、反复训练的群体——身上的结果,搬到知识工作者身上,本身就是很大的一步跳跃。不过,这项研究给出的一个教训,似乎更有可能是可以迁移的:以为自己事先就知道哪部分会生疏,这种想法通常是错的。

自动化偏差 — 工具出错时,我们会怎么做

除了技能衰退之外,自动化还带来一个更直接的问题:工具出错时,我们抓不出来。

帕拉苏拉曼与曼泽2010年发表在《人因》杂志上的关于自动化安逸与偏差的综述,是这个领域的标准参考点。核心结论有三条。

自动化偏差会同时产生遗漏错误和执行错误。 系统没有发出警告导致漏掉问题,是遗漏错误;系统给出了错误建议却依然被执行,是执行错误。后者更可怕,因为其中包含了本人明明知道正确答案、却依然把它推翻的情况。

新手和专家身上都会出现。 这不是一个靠经验就能克服的问题。

培训和指示几乎无法阻止它。 即便事先明确告知"这个系统并不完美,请始终自行核实",偏差依然会大量残留。而且在多任务负荷下会加重。 当手头还有很多其他事情时,注意力会从看起来已经运转良好的那部分上移开。

也有具体的数字。戈达德及同事针对处方决策支持系统进行的一项实证研究发现,在收到错误建议的处方案例中,有5.2%的情况下,临床医生把原本正确的答案改成了错误答案。 5%听起来不算多。但如果分母是每天数百万张处方,这个数字就不小了。

这里要提醒一点:这些研究大多是人为制造出混有错误建议的条件来进行测量的。真实场景中的错误率可能有所不同,实验室任务的现实分量也比真实情况轻。即便如此,这个方向在多个领域中是一致的。

外包无聊,外包判断

现在是本文的核心区分。我把"委托"分成两种。

外包无聊,指的是在已经决定好要做什么之后,把执行的劳动交出去。把这张表改成那种格式,把这个函数的测试补齐,从会议记录里提取行动项。有正确答案,可以核实是否达到,而核实的成本比自己动手做要低。

外包判断,指的是把"该做什么"这件事本身交出去。这个问题值不值得解决?这个指标是不是正确的指标?现在正试图回答的这个问题,一开始就是对的问题吗?

两者的区别不在于难度。在于是否可逆。

设想一个具体的场景。有工单反映仪表盘很慢。把它丢给AI,三十秒后就得到一份出色的查询优化方案,连索引建议都附上了,响应时间真的缩短了一半。看起来是一次完美的委托。

可是那个仪表盘已经两个月没人看了。真正该做的事情,是把这个页面删掉。

这就是外包判断时会发生的事。一个错误的问题得到了一个出色的答案,而正因为答案出色,人们反而不会回头审视那个问题了。 答案的质量本身,反而阻碍了核实。如果结果做得很糟,人们会退回到起点重新来过;可正因为它做得好,大家就直接往下走了。

判断之所以特别,原因就在这里。判断,是察觉"问题本身错了"的那个环节。 而这种察觉,通常发生在生成答案的过程之中——就像亲自打开查询语句,才发现"咦,这张表最近的访问日志怎么是这样"。跳过这个过程,察觉的机会本身也就随之消失了。失去的不是能力,而是偶遇的机会。

请不要把这张表当作一条固定的规则来读。现实中的工作不会干净利落地落进任何一格,同一项工作也会随情况在两者之间移动。这不是一张分类表,而是一个问题:我现在交出去的,更接近哪一边?

这一代人正在外包的东西 — 以及尚不存在的证据

写作、编程、分析。这些是目前被大规模委托出去的事情。它们属于哪一格,正是问题所在,而诚实的答案是两边都沾。 打草稿更接近无聊那一类,决定要写什么则是判断。而在真实的工作中,这两者并不会被干净地分开。任何有过"边写边想清楚"这种经验的人,对这一点都不陌生。

把目前已有的研究诚实地梳理一遍,是这样的。

微软与卡内基梅隆大学研究者2025年发表的一篇CHI论文,调查了319名知识工作者,收集了936个真实使用案例。结果显示:对生成式AI信任度越高的人,报告的批判性思考越少;对自身能力越有信心的人,报告的批判性思考越多。局限性不小。这是自我报告,是横截面设计,测量的是感知,而不是实际表现。 "我觉得自己进行了批判性思考的程度"和"实际进行批判性思考的程度",不是同一个变量。

麻省理工学院媒体实验室2025年的脑电波研究,也就是俗称的"你的大脑与ChatGPT",报告称在写作论文过程中,大脑连接性会因工具使用条件不同而有差异,引发了广泛关注。这一项尤其需要谨慎对待。它是一篇未经同行评审的arXiv预印本,参与者54人,坚持到第四次会话的只有18人。 作者本人也承认选择了在评审前公开发布,此后关于其脑电波方法论和可复现性的正式评论也陆续出现。把大脑连接性的差异解读为能力下降,这个论断远比这些数据所能支撑的要重得多。

这里还有一个非常好的警示案例。斯派洛等人2011年发表在《科学》上的"谷歌效应"研究,是一篇被引用了十五年的经典之作。但这项研究著名的实验一——一项斯特鲁普任务,声称困难的问题会激活与电脑相关的词汇——在2020年的一次精确复现中没有复现成功。 这次复现有89名参与者,设计中还纳入了原作者的建议,贝叶斯因子显示,数据支持零假设模型的可能性大约是原假设的5倍。这篇论文还提到,在此前一项大规模复现项目中,同样的效应也未能复现。

有一点重要的限定需要说明:这次复现只针对启动效应那一部分。 同一篇原始论文中另一个结果——人们更擅长记住信息存储在哪里,而不是内容本身,也就是"交互记忆"的发现——并没有被这次复现检验过。所以"谷歌效应是假的"同样是一个错误的总结。准确的总结是:这个被广泛引用的发现至少可以拆成两部分,其中一部分已经两次未能复现,另一部分则尚未被直接检验过。

这正是现在阅读一切关于AI与认知的研究时应有的方式。这片文献与社会心理学经历过的复现危机共享着完全相同的脆弱之处:样本小、依赖自我报告、叙事有吸引力,而且证实的传播速度远远快于证伪。

而最诚实的一句话是这样的:对于这一代人正在交出去的这些能力,它们的长期效应究竟是什么,我们目前完全没有证据。 对话式AI进入日常工作才不过几年,而这个问题需要的是以十几年为单位的纵向研究。那样的研究才刚刚起步。此刻发表强烈主张的人——无论站在哪一边——说的都是直觉,不是数据。也包括我自己在内。

这篇文章也是用那个工具写的

这个博客大量借助AI的帮助写成。这篇文章也不例外。写一篇讨论"自动化是否会削弱能力"的文章,却借助自动化来写,又不说明这一点,这在逻辑上说不通。

老实说,在这篇文章里,我外包出去的东西和没有外包的东西之间的界线,并不像上面那张表那样干净利落。查找论文、核对摘要、比对数字,这些我外包了。而"谷歌效应复现失败该放在论证的什么位置""航空研究的反转结论该放在常识之前还是之后",这类判断我没有外包。我也试过外包,得到的答案并不差,但我还是没有采用。因为那个判断本身,正是这篇文章想说的事情。

而在写这篇文章的过程中,我确实被这个问题绊了一下。在初稿里,我差点原样照搬了"飞行员正在丧失手动开飞机的能力"这个常识说法。直到打开原始论文才发现,实际结果反而更接近相反的方向。这不是工具的失误,而是我差点跳过了核实这一步的失误。把这件事留在这里,是为了证明上面那个区分不只是纸上谈兵。

结语 — 不是规则,而是一种姿态

我不想给出一条规则。"绝对不要外包判断"这种话既做不到,也没必要做到。有些判断外包出去也什么都不会发生,更重要的是,一旦把眼下的局限误当成永久的事实,这条规则用不了几年就会过时。

我更想提出的是一种姿态:当结果很好的时候,再多停一下。

结果不好的时候,我们自然会回头检查。危险的恰恰是答案出色的那一刻。那正是不再去审视问题的那一刻,是那个没人看的仪表盘没有被删除的那一刻,也是临床医生把原本正确的答案推翻的那一刻。

所以,面对一个做得不错的结果,我会试着多加一句话:"如果这就是答案,那问题原本是什么来着?" 大概只需要十秒钟。大多数时候什么都不会发生。偶尔,这十秒钟能救回两个月的工作量。到底该外包多少、外包什么,还会持续变化——今天的工具,今天的局限,几年后大概会是另一副样子。但握住问题而不是答案的这个习惯,无论工具怎么变,只要做出好决定这件事本身没有消失,就会一直有用。