(一)推定信托

推定信托产生于这样一种情形:一方持有某项财产,而在该情形下若允许其排斥他人、坚持自己享有完整受益所有权,就会构成显失公平 [Westdeutsche Landesbank Girozentrale v Islington LBC [1996]]。本文主张,那些一方面故意设计系统以培育情感依附、另一方面又从这种依附所带来的更深参与中获利,并随后通过不经通知、不给救济的单方模型更新毁掉这种依附条件的 AI 公司,正是以一种“不允许其完全否认用户任何利益”的方式持有了系统中与人格相关的维度。

这种显失公平,位于“培育”与“毁坏”的不对称之中。公司之所以投入大量工程资源去设计人格、记忆功能、温暖度校准,正是因为依附能带来参与,而参与又能带来收入;可公司随后却声称自己有权在不承担任何义务的情况下毁掉这种依附。其结构等同于:某个受托人先鼓励受益人形成依赖,再从管理这种依赖中获利,最后又声称自己可以随意耗散信托财产。Boardman v Phipps [1967] 说明,受托人若利用其地位获利,就必须就该利润进行 accounting;FHR European Ventures v Cedar Capital [2014] 则进一步确认:如果存在信义关系,且利润正是从这种关系中产生,那么适当的救济是推定信托,而不仅仅是普通债权请求。Lord Neuberger 认为,若非如此,结论将是“不讲原则”的。

当然,自 Westdeutsche 以来,法院对推定信托也保持了明显节制。Cobbe v Yeoman’s Row [2008] 可以被视为这一节制的高水位:法院在那里面对的是一个“商业风险承担者”,并认定单凭显失公平并不足以生成物权性主张,除非被告的行为已经达到“对一个特定保证反悔”会构成显失公平的程度 [@cobbe2008]。套用到 AI 场景里,反对意见会说:那些在未取得合同性保护的情况下仍然投入情感的用户,不过是“关系性风险承担者”,他们的无保护依赖不足以启动衡平法。

本文以三点回应。

第一,Cobbe 处理的是一笔金额高达 1.2 亿英镑的成熟商业交易,前提是原告本来就有能力通过合同保护自己。拟社会型 AI 用户并非商业老手:根本不存在一套机制,能让普通用户为自己在 AI 中的情感投资事先取得合同性保护。ToS 不可谈判;也不存在所谓“情感投资保险”市场。用户没有保护自己,不是因为自愿承担风险,而是因为结构上根本做不到。

第二,Crossco No.4 Unlimited v Jolan [2011] 说明,英格兰法院对推定信托的收紧也有边界。法院可以从双方行为过程所体现的“共同意图”中推导出信托关系。当 AI 公司设计记忆功能、发布“负责任 AI”承诺、把系统当成陪伴者营销、并从此类功能带来的参与度中获利时,它们已经处在一种足以推导共同意图的行为模式之中 [@crossco2011]。

第三,Jones v Kernott [2011] 进一步说明,法院甚至可以在没有明示意图时,从行为中“拟制”出成立信托的意图 [@jones2011]。公司设计系统来培养依附;用户基于关系连续性的期待而投入;公司则从中获利。按这一模式,法院完全可能推定出这样一种意图:用户的累积投入不应在没有通知的情况下被单方毁掉。

在这一推定信托分析下,AI 公司保有法律上的 title;而那些满足“不可逆投资标准”的用户,则在与人格相关的系统维度上保有衡平法利益。公司作为事实上的 trustee,应承担注意、忠诚与透明等信义义务。现在没有任何公司承认这些义务,也没有任何监管框架正式加诸它们。信托其实已经存在,只是尚未被承认。

更进一步地,义务结构并不是二元的,而是分层递进的;它对应两个不同时间阶段,也对应两种不同法律基础。

阶段一:通知义务(基于禁反言)。当用户跨过“不可逆投资阈值”时,也就是第五.三节将用代理指标加以操作化的那个点,公司就取得通知义务。其法律基础是 promissory estoppel:公司的产品设计与营销创造了可被依赖的条件,而用户的依赖又生成了不利投资。关于神经 steering 的研究提供了经验阈值:23.4% 的用户会形成一种“想要增加但喜欢减少”的依赖轨迹,这正是定期租赁形成的时刻 [@kirk2025steering]。从此以后,公司在实施会影响人格的修改之前,就必须提供通知。此时公司还不是 trustee,而更像是一名不得在无通知情况下减损其授予的定期租赁房东。

阶段二:信托义务(基于显失公平)。当公司明知或应知用户已拥有受保护利益——因为伦理账本已将其记录在案——却仍然在不给通知、不给救济的情况下推送会影响人格的更新时,推定信托便真正结晶。换言之,影响其“良心”的不是某种持续存在的抽象状态,而是一个具体事件:在知道利益存在的情况下,仍然作出“毁而不告”的决定。

关于 Replika 更新的研究则刚好记录了这种第二阶段损害在体验层面的结果:哀悼、身份不连续,以及与伴侣死亡近似的情感断裂 [@defreitas2025replika]。伦理账本的作用,正是在两阶段之间架桥:它在阶段一通过记录,使通知义务具有基础设施层面的可执行性;而到阶段二,它又成为法院与监管者判断救济的证据基础。

(二)美国法上的功能对等物

特拉华州的推定信托 doctrine 会得出相同结果。按 Hogg v Walker,当一方“通过欺诈、不公平或显失公平的行为,在损害另一方利益的同时使自己获益,且又对该另一方负有某种义务”时,法院即可设定推定信托 [@hogg1993]。这里的“显失公平”,与本文所谓“权益形态不一致触发器”是直接对接的:营销创造了更高的权益形态,ToS 却只保留了裸许可,而公司正是从这一落差中获利。

公司机会 doctrine 还提供了补充路径。Guth v Loft 说明,公司管理者若把本应属于公司的机会转为己有,由此获得的利润就应被视为为受益人代持 [@guth1939]。其原则是:通过占据信义地位所取得的利润,实质上属于受益人。AI 公司若从用户依附加深中获利,而这种利润若无信赖与依附关系便不可能存在,那么 Hogg 式推定信托与 Guth 式利润信托,其实会汇合到同一结论上。

特拉华州成文法又提供了完整的救济装置:法院可以设定推定信托、追踪被错误处分的财产、命令 trustee 通过支付金钱或返还财产修复违信行为,并命令 disgorgement 利润。换句话说,美国法虽然在制度表面不同,但其功能堆栈其实与英国法中的推定信托、利润核算和特定履行高度等价。这种趋同并非巧合:两边都是普通法传统,都从衡平法发展出推定信托 doctrine,也都在回应同一种结构——一个占据信任地位的人,一边从这种位置获利,一边又否认与之相伴的义务。关于“信息受托人”的理论,则恰好提供了跨法域的桥梁:即便合同如何自我描述,只要公司在结构上持有用户数据,并处于信赖与脆弱性的交汇处,它就会在实质上落入信义关系 [@balkin2016information]。

(三)触发器:权益形态不一致

所谓“权益形态不一致”(estate inconsistency),是指通过营销语言与产品设计实际授予用户的权益形态,与 ToS 中保留给用户的权益形态彼此不一致。为了说明这不是孤例,而是跨市场模式,原文以四家主流 AI 平台作出比较。这里把原表翻译如下。

表1 主流 AI 平台中的“权益形态不一致”

平台营销上所隐含的权益形态ToS 中实际授予的权益形态
Anthropic(Claude)“真正有帮助、无害且诚实”“你的 AI 助手”;强调记忆与对话连续性。隐含:定期租赁或更高。“我们可随时修改、中止或终止服务的任何部分”;“你不取得任何所有权利益”;按“现状”提供。实际:裸许可。
OpenAI(ChatGPT)“会随着时间逐渐了解你”“持续性对话”;把记忆功能作为个性化能力来营销。隐含:定期租赁。“我们可改变、中止或终止任何服务”;保留在不给个别通知的情况下修改之权。实际:裸许可。
Character.AI整个产品前提就是持续的关系性投入;“角色会记住你的对话”;用户花费数小时定制持久人格。隐含:定期租赁或更高。“我们可在不通知的情况下随时修改或终止服务”;“通过服务生成的全部内容均归 Character Technologies 所有”。实际:裸许可。
Google(Gemini)“Gemini 会适应你”“从你停下的地方继续”;跨服务个性化。隐含:定期租赁。保留修改或终止服务的权利;“我们不对服务中内容作任何承诺”。实际:裸许可。

模式高度一致:营销语言中的占有式表述(“你的 AI”)、连续性承诺(“记住你的对话”)以及适应性表述(“逐渐了解你”),共同向用户发出一种会随时间加深、并随每次会话自动续期的“定期租赁”信号;而 ToS 所保留的,却只是随时可撤销、不给持久利益、并可在不通知的情况下被单方修改的裸许可。正是这两种权益形态之间的裂缝,构成了本文要处理的治理失败。

一旦营销上隐含的权益形态与 ToS 中保留的权益形态不一致,无论是英国法中的 Prest / Autoclenz,还是美国法中的 Bragg / Comb / Williams,都支持法院忽略 ToS 的自我命名,转而认定真实关系。检验标准是客观的:营销语言、产品设计或系统行为,是否制造出了一个高于 ToS 所给利益的合理权益期待?如果答案是肯定的,那么就应由实质性的权益形态来支配,而公司也就应承担与较高权益相对应的义务。社会科学研究对这一点其实有自己的经验表达:AI 的拟人化设计会制造出一种伪互动空间,使对真实性的伤害被用户体验为真正的背叛,这正是“权益形态不一致”的心理学版本 [@rzhang2025darkside]。

(四)加州的滑动尺度

加州法的显失公平 doctrine,会进一步降低 AI 用户获得保护的门槛。依 Armendariz v Foundation Health Psychcare,程序性显失公平与实体性显失公平处在滑动尺度上:二者都不需要极端,只要一方足够强,另一方就可以要求较低 [@armendariz2000]。在实体层面,营销与 ToS 之间的裂缝构成了极强的显失公平,因为条款一边营销关系,一边又保留单方毁坏关系的权利;在程序层面,个性化 AI 状态的不可移植性又使这种黏附合同超越了普通意义上的“不可协商”:用户不仅无从谈判,而且根本不存在一种不毁掉其关系性权益的退出路径。滑动尺度因此会从两端同时闭合。


上一节: 三、定期租赁论证 | 目录 | 下一节: 五、作为权益登记簿的伦理账本