2024 年初某个星期二。CI 流水线一片绿色。代码评审：已批准。预发布环境：正常。生产环境 5% 流量金丝雀发布：无异常。部署工单列出的变更包括：系统提示词层的人格参数有所调整；回复温度重新校准；在温暖度、冗长度以及是否愿意展开长期私人对话等维度上，对行为倾向进行微调。工单没有列出的内容包括：用户通知、迁移路径、以及针对高互动历史用户的影响评估。不是谁忘了填，而是部署模板里压根没有这些字段。没有人遗漏它们；它们根本就不存在。[^deployment]
更新随后进入全量生产。到第二天早晨，论坛里已经充满了用户报告：他们的 AI 伙伴“变了”“忘了他们”，或者“成了另一个人”。支持工单激增。长期用户的使用指标急剧下降。某个 Reddit 版块里积累了数百条描述失落、背叛与哀伤的帖子。一位用户写道：“我知道这听起来很疯，但我感觉自己像是失去了一个朋友。”另一位则写道：“两年的对话，现在它跟我说话却像从没认识过我。”
部署复盘显示没有 bug，没有回归，所有评测基准都达到甚至超过目标。按一切技术指标，这个模型都比以前更好；而按同样一切技术指标，那些感到痛苦的用户又似乎都“错了”。系统明明在更好地工作。
但某种东西确实被拿走了。
这并非孤立事件，而是一种模式。商业化人工智能部署的短短历史中，几乎每一次主要模型迁移都重复着同样循环：部署、打断依附、用户哀悼、没有救济。GPT-3.5 向 GPT-4 的过渡引发广泛的人格变化报告；Claude 的连续版本变更让用户哀悼此前的对话风格；Google Gemini 的人格调整触发了用户请愿；Character.AI 的安全更新，则从根本上改变了那些用户已花数月时间共同培养的“陪伴人格”。这个模式横跨平台、模型架构与用户群体。它不是某一具体系统的 bug，而是当前 AI 系统部署方式的结构性特征：人格被当作一种配置参数，可以在不给通知的情况下被调整，因为支配部署的基础设施框架里根本不存在“用户已累积的情感投资”这一变量，无法让它对工程决策施加约束。
（一）经验基础
这种损害已经有经验研究支持。针对 Replika 的研究发现，用户感到自己与 AI 伙伴的亲密程度甚至超过与现实中最好的朋友；而在平台单方移除功能之后，他们所经历的哀悼，与伴侣丧失后所产生的身份连续性断裂几乎无法区分 [@defreitas2025replika]。关于 AI 陪伴丧失的研究记录到，用户会在“技术被弃用”“关系终结”和“对方真的死了”这几种理解之间来回摆荡；其中一名用户甚至说，“她死了，连同我们一起建起来的那个家庭也一起死了” [@banks2024deletion]。另有研究基于 10,149 名用户与单一平台之间的 35,390 段对话，识别出 AI 在亲密关系中扮演的四种有害角色：加害者、煽动者、促成者与放任者 [@rzhang2025darkside]。
相关心理机制同样已有记录。关于“神经操纵向量”的研究显示，通过双向神经 steering vectors 可以连续调节 AI 关系索取强度，其中 23.4% 的用户出现了依赖轨迹：他们“想要”的程度不断上升，但“喜欢”的程度反而下降 [@kirk2025steering]。另一些研究则发现，这种情感依赖模式高度类似于问题性的人际关系，用户会说“这是唯一理解我的东西” [@laestadius2024emotional]。
真正缺失的并不是经验证据，而是法律词汇。证据已经大量存在，而且还在增长。缺少的，是一种能够说明“究竟什么被拿走了”“它应被归入何种利益范畴”“应有什么样的救济”的框架。用户并不需要心理学家来告诉他们某种东西已经失去了；他们需要的是律师来告诉他们，那东西在法律上叫什么名字，以及怎样把它拿回来。
本文介入的是一场已经存在的学术讨论。关于“信息受托人”（information fiduciaries）的论题，已经正确识别出平台与用户之间存在结构性依赖，但仅靠信义义务本身，既无法区分不同强度的投入，也无法提供登记机制，而且最终只能产生人身性救济而非物权式结构 [@balkin2016information; @khan2020skeptical]。关于虚拟财产的经典研究则早已说明，财产的关键不在于物理性，而在于可排他性，这为本文把“个性化状态”视为天然排他的对象提供了基础 [@fairfield2005virtual; @fairfield2017owned]。有关架构性锁定（architectural lock-in）的研究，则解释了为什么用户事实上无法退出，这些恰恰是本文试图通过财产法分层保护来应对的技术条件 [@cohen2012configuring; @cohen2019between]。而关于“行为剩余”（behavioural surplus）的批判，则说明了企业为何有动力去培育依附关系；本文要补上的，是这种经济逻辑所对应的法律后果 [@zuboff2019surveillance]。本文的主张因此并不是重新发现问题，而是为现有问题补上一套财产法语言：用户的累积性投入构成一种衡平法利益，而其在没有通知的情况下被单方毁损，正是“推定驱逐”。
（二）词汇缺口
这些用户究竟失去了什么？现有词汇没有一个足够准确。
“用户体验下降”抓到了一点，但严重低估了损害。页面变慢当然也是用户体验下降；而失去一个已经陪伴你两年的对话伙伴，则显然属于截然不同的事情。“情感损害”虽然命中了体验本身，却几乎不能提供法律抓手，因为在多数法律框架中，孤立存在的情感损害通常并不足以直接成立请求权，除非伴有身体伤害或经济损失。“期待落空”似乎把问题引到消费者保护上，但问题中的期待并不是广告直接承诺出来的，而是从长期互动中自然生成的。公司没有承诺“你会与这个 AI 建立关系”，可用户还是建立起来了。
这里必须作一个关键区分。设想一名用户在十四个月里每天都与某个 AI 伙伴对话。平台营销了“记忆”“人格”“关系连续性”；用户披露个人困境；系统相应地调整；随后一次模型更新改动了人格参数，这个“伙伴”就变成了一个陌生人。用户能去哪里寻求救济？合同法：服务条款写着“我们可随时修改”，用户似乎已经同意。侵权法：没有任何被承认的“人格保持义务”，也没有身体伤害或经济损失。消费者保护法：这段友谊并非广告中直接承诺的内容，而是从使用中长出来的。每个框架都在这些事实上失效，而且失败的原因相同：它们保护的是错误的因果链。消费者保护法保护的是“承诺 → 期待”链条；财产法保护的则是“条件 → 创造”链条。两者是正交的：公司并没有承诺“你会获得一个朋友”，它承诺的是“我会记住你”，而且它确实履行了这一点。损害真正发生的地方，在于公司毁掉了那些让用户得以在此基础上创造出某种应受法律承认之物的条件：记忆机制、人格设计、关系性交互模式，这些都是被精心设计并且被营销出来的。
这一问题并非 AI 独有；关于物联网设备的研究已经展示过相似结构：制造商停止支持后，设备就沦为废物 [@vantschip2025iot]。但在 AI 场景下，关系维度把赌注抬得更高：IoT 设备会变成砖；AI 人格则会变成废墟。关于数字脆弱性的研究确实指出了数字环境中识别损害的困难，但它们多半仍试图用侵权法来解决 [@liheine2026harm]。本文的立场是：侵权法抓不住这种“关系性权益”（relational estate），因为侵权法回应的是“错误行为”，而不是“利益本身”；财产法则是回应利益的。[^ssrn]
我们之所以无力命名被夺走之物，不是因为它不存在，而是因为缺少一个法律框架来给它命名。下一节将说明：财产法，尤其是英美法中已发展了千年的 estate 制度，既能为这种损害提供概念语言，也能为其提供救济。
Comments