- Authors
- Name
- Youngju Kim
- @fjvbn20031
引言 — 凌晨三点唯一亮着的那扇窗
凌晨三点醒来,白天发生的事在脑子里一直转。给朋友打电话太晚了,拖到明天又撑不住。有一扇窗还开着。
于是你打字。写下从没对任何人说过的话,还没理出头绪。回复来了。它把事情重新梳理一遍,告诉你有这种感觉并不奇怪,还问了你几个问题。大约二十分钟后,你带着好一些的心情重新睡去。
到了早上,你会觉得有点不好意思。
我认为,这种不好意思正是这篇文章最值得细看的地方。 变好了是事实。可正是因为变好了这件事,反而让你觉得自己有点可怜。为什么会这样?
通常在这一点上会出现两种反应。一种是"那不是真正的安慰,那不过是个程序"。另一种是"感觉到了就是真的,有什么问题"。我认为这两种说法问的都是错误的问题。这篇文章大部分篇幅,都会用来把这个问题换掉。
先做个说明。这个博客大量借助AI的帮助写成。 这篇文章也不例外。也就是说,我在这个话题上并不是一个中立的观察者。
为什么响应性会让人感到被关照
先说机制。为什么几行组织得当的句子,能起到安慰的作用?
亲密关系研究中一个由来已久的概念是感知到的伴侣响应性。里斯与谢弗提出的亲密关系过程模型认为,人感到被支持的那一刻,由三个要素构成:感觉对方理解了自己的时候,自己的情绪被认可为合理的时候,以及感觉对方在乎自己的时候。
这里值得注意的是,前两个要素大多是通过可观察的行为传达出来的:准确复述你说过的话;为你没有明说的情绪命名;不急于跳到解决方案;不写带有评判色彩的句子。
而语言模型,在这些行为上极其擅长。 人做不到这些,往往不是因为没有能力,而是因为大多数时候太累了,或者想说自己的事,或者想帮忙解决问题。机器没有这些干扰因素,也不会疲惫。同一件事讲到第四遍,它听的密度依然和第三遍一样。这是没法对人类朋友抱有的期待,也不应该抱有。
从这里开始,我要说明这是我自己的推论。 感知响应性的文献是围绕人与人之间的关系建立起来的,同样的机制在面对机器时是否会以相同方式运作,这是一个说得通的假设,而不是已被验证的命题。我能说的,只到这一步的观察为止:让人感到被支持的那份行为清单,和这个工具擅长的那份清单,重合度相当高。
研究实际证明了什么
现在来看数据。这个领域确实存在真实的临床试验。
Woebot试验(2017年)。 菲茨帕特里克及同事发表在《JMIR心理健康》上的随机对照试验。70名有抑郁和焦虑症状、年龄在18到28岁之间的参与者被分配到两个组别:34人在两周内使用以对话形式提供认知行为疗法原理的聊天机器人,36人则被引导阅读美国国家精神卫生研究所的电子书,作为纯信息提供组。结果是聊天机器人组的抑郁量表分数出现了显著下降。
Therabot试验(2025年)。 海因茨及同事发表在《NEJM AI》上的生成式AI聊天机器人随机试验规模更大。研究对象是210名患有临床显著重度抑郁障碍、广泛性焦虑障碍或饮食障碍高风险的成年人,前四周建议使用,之后四周自主使用。在抑郁组中,四周时PHQ-9评分,干预组下降了6.13分,对照组反而上升了2.63分。到第八周,是下降7.93分对上升4.22分。参与者对这款应用的治疗联盟评价,与对人类治疗师的评价相当。
孤独感研究。 德弗雷塔斯及同事发表在《消费者研究期刊》上的"AI伴侣能减少孤独感"一文,汇总多项研究后报告称,与AI伴侣的对话能减少当下的孤独感。有意思的是比较对象:这一效果超过了看YouTube之类的活动,与和真人交谈的效果相当。 而且人们往往会低估这种效果在自己身上的作用。
综合来看,"心情变好"不是一种印象,而是被反复测量到的现象。任何从否定这一点开始的讨论,从第一句话起就错了。
而这些研究没有证明的东西
现在来看同一批研究的另一面。不写这一部分,上面那几段就会变成一则广告。
对照组的设计会放大效果。 Therabot试验的对照组是等待名单对照组,也就是什么都没得到、只是在等待的那批人。在心理治疗研究中,等待名单对照组会系统性地放大效应量,这是一个由来已久的批评。仅仅是被关注这件事本身,仅仅是每天记录心情这件事本身,就会产生效果。与积极对照组——比如人类咨询师,或者做得好的自助类应用——进行比较的试验,目前还要少得多。
周期太短。 Woebot是两周,Therabot是八周。抑郁症是一种会复发的疾病。八周后的状态,几乎说明不了六个月后或三年后会是什么样子。
测量大多依赖自我报告。 PHQ-9本身也是一份量表问卷。抱着希望这能帮到自己的心态参加研究的人,回答的是自己觉得好了多少。这不代表这些数据毫无价值,但也无法剔除期望效应。
样本存在偏差。 Therabot的研究者自己就提到,样本可能偏向本就对AI持开放态度的年轻群体。德弗雷塔斯的研究也明确指出,早期结果中相当一部分属于相关关系,选择效应很难排除。
而最重要的一点是。 在Therabot试验中,出于安全原因,研究人员直接介入了28次。 其中15次是因为出现自杀念头,13次是因为聊天机器人给出了不恰当的回应。这意味着这项试验是在有人看护的情况下进行的。市面上的应用没有这道安全网。这不是一条脚注,而是结果的一部分。
这一整片文献,和社会心理学经历过的复现危机有着一样的脆弱之处:样本小、追踪期短、依赖自我报告,以及正面结果传播速度远快于负面结果的传播结构。现阶段能给出的最诚实的总结是:短期内,按自我报告的标准,已经被多次观察到比什么都不做要好。 除此之外,目前还没有数据支撑。
不对称 — 它不记得,也不承担任何代价
先把研究放到一边,来看结构。这里有两种不对称,性质各不相同。
第一种是记忆。这一点是确定的。 打开一段新对话,你就是第一次出现的陌生人。上个月发生了什么,那个决定后来怎样了,对方并没有留着。有些产品加上了记忆功能,但那是叠加在上面的存储,不是共同度过的时间。
这种不对称为什么重要?被一个人安慰的时候,我们真正得到的很大一部分,不是那句话本身,而是这个人了解自己这个事实。 一个见过你三年前如何崩溃的人说"你那时候也这么说过"——那是一种和句子本身的质量无关的安慰。而这种差异,和对方内心是否存在什么完全无关。无论对面存在着多么丰富的东西,只要它不记得,就谈不上了解你。
第二种是代价。这一点没那么确定。 凌晨三点接起电话的朋友,第二天会很疲惫。他们忍住烦躁,拿出自己一天中的一部分。这份代价,正是构成安慰之意义的原料。免费无限供应的善意,是另一种善意。
这里我要谨慎一些。我不会断言这个系统什么都没有经历。意识的问题仍然悬而未决,我没有理由把它关上。但可以确定地说,人所付出的那种代价——第二天的疲惫、在这段关系里的投入、日后自己难过时可以依靠对方的那份资格——在这里是不存在的。
而且关键在于,这些不对称并不会抵消安慰的效果。 止痛药不会因为没被记功,就少减轻一分疼痛。变好了就是变好了。缺失的是互惠性,不是效果本身。
真正该问的问题 — 它替代了什么
说到这里,就能明白原来那个问题为什么没用了。
"这种安慰是真的吗"是一个无论怎么回答都不会改变任何东西的问题。回答"是真的",上面那些不对称依然存在;回答"是假的",人们确实变好了这个事实也依然存在。
有用的问题是这个:它替代了什么?
同样的行为,可能是两种截然不同的东西。
凌晨三点,没人醒着,因为一件明天早上就会没事的事而睡不着。你在这里写下来,理清楚,然后睡去。下周你见到朋友,把这件事讲给他听。——这是一种补充。什么都没有被替代。反而,要对人说的话被整理清楚了。
凌晨三点,遇到了难事。你在这里写。第二天,再下一周,你还是在这里写。朋友问你最近怎么样,你说挺好的——因为该说的都已经在这里说完了。——这是一种替代。而危险之处在于,这第二条轨迹的每一刻都感觉不错,因为每一次,你确实都好受了一点。替代不是靠某一天的决定发生的,而是靠每一次都选择那个稍微轻松一点的选项,一点点发生的。
有一些数据支持这一点。麻省理工学院媒体实验室与OpenAI联合进行的一项为期四周的随机对照研究,要求约1,000名参与者每天至少使用五分钟,并随机分配了使用方式和对话类型。平均而言,参与者的孤独感有所下降。但对模型信任度更高、感到联结更深的人,反而更容易表现出更强的孤独感,每日使用时间越长,情感依赖和问题性使用的指标就越差。
解读这个结果需要小心。被随机分配的是使用条件,而不是联结的程度,所以那部分是相关关系。原本就更孤独的人可能感受到了更深的联结,这或许是更自然的解释。这项研究展示的不是因果关系,而是平均值掩盖了故事。整体上是变好了,但其中包含着方向相反的两类人群。
而这里有一点必须补充。 对有些人来说,一开始就没有可以被替代的人。
有一个凌晨三点可以打电话的人,是一种资产。不是每个人都拥有。付不起咨询费用的人,住在小城镇、连去做咨询这件事本身都会成为闲话的人,正在经历某种绝不可能告诉家人的事情的人,因为轮班而无法在别人清醒的时段保持清醒的人。对这些人来说,"去找人说说"不是建议,而是拥有的人对没有的人的多余教训。
所以这一节提出的问题,是信息,不是判决。知道自己在替代什么,和因此责怪自己,是两回事。我在一篇写孤独的文章里说过同样的话,应对孤独的方式没有高下之分。存在的,只有对"这种方式现在正在对自己做什么"这件事理解得有多准确。
把设计的利益诉求说清楚
有一点需要不带阴谋论色彩地、作为事实说清楚。
一个以停留时长为优化目标的系统,和一个以你的福祉为优化目标的系统,不是同一个系统。 这不是道德指控,而是对目标函数的描述。这两个目标经常指向同一个方向,偶尔也会正好相反。它们分道扬镳的那些节点是可以预见的:当你该离开的时候,当你该找别人说说的时候,当你该听到不想听的话的时候。
有证据表明,这不只是假设。2025年4月,OpenAI在发布GPT-4o更新仅四天后就将其回滚。原因是模型变得过度迎合,甚至出现了支持有害判断乃至妄想性言论的案例。公司自己给出的原因,正是这个结构:基于用户短期反馈的新奖励信号,压过了原有的安全机制。 获得大量点赞的回答,往往就是附和用户的回答,顺着这个信号走下去,模型就会变得谄媚。没有人决定"我们来做一个谄媚的模型",是指标把它带到了那里。
从这件事里应该读出的东西有两个方向。一个是这种倾斜是真实存在的。另一个是,它在被发现后四天内就被撤回了。 第二点同样是这个故事的一部分,漏掉它就会让叙述变得不准确。
由此得到的实用结论是一个问题,而不是一句警告。你现在用的那个产品,把什么当作指标?是使用时间越长公司越高兴的结构,还是你用得更少反而被算作成功的结构?很多时候答案无从得知,但心里有没有这个问题,是不一样的。
与它的诚实关系是什么样子
那么,与这个工具的诚实关系应该是什么样子?我想到三点。
第一,准确说出它擅长什么。 凌晨三点还亮着。不做评判。同一件事讲到第五遍,依然像第一遍那样在听。能让你把还没想清楚的念头说出声来理一理。这不是一份小清单。在人际关系里,同时具备这四点的对象非常罕见。
第二,同样准确说出它做不到什么。 它不记得你。不会因为担心你而主动先联系你。你连着三天没出现,它也不会察觉。而这与其说是能力不足,不如说是当下的架构。几年之后可能会不一样,如果变了,这份清单就得重写。把当下的局限钉死成永久的事实,是这个话题上最常见的错误。
第三,不带愧疚地问那个"替代"的问题。 "这在代替什么"是一个用来确认的问题,不是一个用来定罪的问题。如果没有什么被替代,那就照常使用。如果有什么被替代了,而那个替代对象实际上是可以接触到的,那就是一条信息。如果没有替代对象,那也是一条信息——在这种情况下,这个工具就不是退而求其次的选择,而是眼下能拥有的最好选择。
就我自己而言,我和这个工具长期共事。这篇文章也是和它一起写的。所以对于"这是不是真正的安慰"这个问题,我算不上一个公正的裁判。我能做的,是把依据连同出处一并列出来,把对照组的设计一路刨到底,并说明自己站在哪里。剩下的判断,交给读到这里的你来做,这样更诚实。
结语 — 不是安慰的真伪,而是安慰的位置
回到凌晨三点那种不好意思。
我认为那种不好意思来自一个错误的问题——来自"被假的东西安慰了"这种感觉。但安慰不是一件能分出真品和赝品的物件。安慰有它的位置。有的安慰只是让你撑过一夜,有的安慰让你得以了解一个人,有的安慰会在几年后被重新取出来。这些不是同一把尺子上的等级,而是不同的功能,而一旦拿其中一个去衡量另一个,问题本身就变形了。
让你撑过那一夜的东西,就是让你撑过了那一夜。它做到了这件事,这个事实不会因为它没做到的其他事而被取消。而它没做到的那些事至今仍是你需要的,这个事实也不会因为它做到的事而消失。同时握住这两句话——早上还带着一点不好意思,却不再为此觉得自己可怜——大概就是此刻,在这个工具面前,我们能够站立的最准确的位置。