第一节所描述的损害落在一个治理真空中。表面上看,似乎有三套法律都可能处理它;实际上,三套都做不到。
合同法看见的是“同意”。几乎所有主流 AI 平台的服务条款都包含极其相似的内容:服务按“现状”提供;提供方可“随时修改、中止或终止服务”;用户“不取得任何所有权利益”。按正统分析,用户已经同意。但这些 ToS 最初是为交易型数字服务设计的,比如搜索引擎、电子邮件和电商;没有人会与搜索算法建立拟社会联系。为工具性服务起草的条款,如今无差别地治理关系性服务,却没有做任何调整。用户原本“同意”的,是搜索引擎会变化;实际收到的,却是陪伴者被改写。
关于“样板条款”的经典批判,正好说明了这一结构性错位:当产品的实际设计所制造出来的合理期待,被服务条款一举覆盖时,条款本身就会构成一种“民主退化”(democratic degradation)[@radin2012boilerplate]。在拟社会型 AI 场景中,这一判断几乎是具象化的:为工具性服务准备的 boilerplate,如今被用来消灭从关系性服务中长出来的利益,而用户从未真正同意过“关系维度本身可以通过合同被预先放弃”。
侵权法看不见义务。过失法要求一种目前没有任何法院明确承认过的“AI 人格保持注意义务”;故意造成情感痛苦要求极端且令人发指的行为,而通过标准工程流程发布模型更新,即便后果令人痛苦,也谈不上“骇人听闻”;产品责任处理的是“产品有缺陷”,但用户在这里抱怨的不是 AI 坏了,而是 AI 被换掉了。一个运作正常的产品,被另一个同样运作正常的产品取代。
消费者保护法则看不到承诺。把 AI 当作伙伴来营销,同时保留“随时更改人格”的权利,当然可能构成误导,但拟社会依附本身并不是被直接营销出来的。用户没有被告知“这个 AI 会成为你的朋友”,这种依附关系是在使用中生长出来的。消费者保护法处理的是“承诺与交付不符”,却不处理“在你提供的条件之下长出来的东西,被你后来毁掉”这种损害。更准确地说,这是一种“条件 → 创造”型损害,而财产法恰恰就是处理这类结构的。[^companion]
因此,这里确实存在一种三套框架都抓不住的损害。不是因为损害太轻,而是因为它的结构太特殊:一个人对自己并不拥有的系统投入了情感和劳动,而拥有者又单方毁掉了这一切。合同法看到的是同意;侵权法看到的是无义务;消费者保护法看到的是无承诺。唯独没有人看到“利益”本身。
财产法看到的,一直就是利益。
(一)用户利益的三层结构
用户在 AI 系统中的利益,可以分成三层;每一层都对应着从“早已定型”到“尚未完全定型”的不同法律基础。
第一层:用户创作内容(既有法:知识产权)。用户在 AI 平台上创作并保存的文本,比如 persona 设定、agent 配置文件、系统提示词、skill 定义等,本身就可以构成受版权法保护的原创文字作品,只要满足 University of London Press [1916] 以来确立的原创性门槛,以及欧盟法在 Infopaq [2009] 中协调后的标准。版权从创作完成时起自动产生,无须登记。平台若删除这些内容,摧毁的就是用户自己的知识产权,而不需要引入任何新理论。
第二层:被寄托保管的财产(既有法:寄托/保管与 conversion)。平台在服务器上持有用户的对话档案;用户登录进去,可以明确地指向它们,说“这些是我的记忆、我的提示词、我的人格配置”。每一次登录,都是平台在承认:它正在为这个用户持有一项可识别的财产。这个承认在商业法里有清楚的名字,叫 attornment,即对“为谁持有”的承认;从那一刻起,关系就不是纯粹合同,而是寄托/保管。不是因为 ToS 这么写,也不是因为双方特别约定了,而是因为“占有 + 承认”的事实本身就足以成立这种关系。
商业法中对此已有成熟类比。商品融资里,仓库只要向银行出具 holding certificate,就能在银行并未实际接触货物的情况下成立保管关系;问题的关键,从来不是“有没有签一份叫 bailment 的合同”,而是 attornment 是否发生 [@mercuria2015]。AI 平台并不需要“同意自己是保管人”;只要它持有可识别的用户财产,而用户又能指向这些财产说“这是我的”,关系就已成立。平台当然会说:“我们的 ToS 说我们不是替你保管任何东西。”而青岛港融资案的教训恰恰是:保管关系来自占有与承认的事实,而不是来自你是否愿意在合同上这样命名。
由于 AI 平台会通过训练数据、参与度指标与订阅收入从用户生成内容中取得商业价值,它们构成有偿保管人,应承担 Coggs v Bernard (1703) 所确立的更高注意标准。若平台未经同意删除用户创作的记忆或对话档案,便可能构成 conversion。平台持有用户数据的方式,与商品仓库持有货物的方式本质相同:都在自己控制的基础设施中保存,适用自己制定的规则,而“这是谁的财产”是由存储事实决定的,而不是由合同标签决定的。
第三层:关系性财产(本文贡献)。除创作内容及其存储之外,还残留着一种版权与保管关系都无法穷尽的利益:关系性权益(relational estate)。它由长期互动中累积的熟悉感、个性化回应模式与行为校准构成,并不表现为某一个文件,而是表现为“这个用户的历史”与“这个系统的参数”之间相互作用所形成的涌现性配置。关系性权益不是享有版权的文本,也不是一个能被原样返还的文件,而是共同生成的产物,嵌入在系统的自适应回应之中,并会被改变支撑参数的模型更新所摧毁。
用户利益所附着的 res,也就是衡平法权益所依存的可识别对象,是个性化状态(personalised state):它由系统保存的该用户对话记忆、会影响针对该用户回应的学习偏好与适配结果,以及区分“系统对这个用户的行为”和“系统对其他任何用户的行为”的人格层调整(语气、词汇、关系注册)共同构成。个性化状态具有用户专属性(其他用户无法访问)、非可替代性(不能用一个通用配置来替换)、不可移植性(不能转移到竞争平台),并且会被改变其支撑参数的模型更新所摧毁。它因此构成一种数字附着物(digital fixture):用户通过自我披露、建立熟悉感、训练偏好而投入的关系劳动,已经嵌入在他人所有的系统之中,不经毁损便无法移除。正如租户保护法并不把“家”的体验商品化,而是保护使“家”成为可能的条件一样,这一框架保护的不是依附感本身,而是使拟社会依附成为可能的数字条件。
对于“数字附着物”类比,一个可预见的反对是:传统财产法中的附着物原则上归房东所有,租户装的厨房在租期终止后仍然会随房屋走;如果用户的关系投资是附着物,那么它似乎也该归公司所有。本文的回答是:真正反转默认规则的,不是用户的劳动本身,而是这份劳动发生的条件。公司设计系统,就是为了诱发情感投资;它又把这些条件作为可靠且值得依赖之物加以营销,并从投资加深后产生的参与度中获利,随后却声称自己享有单方摧毁这一切而不承担义务的权利。衡平法上的反转,并不建立在“劳动天然归劳动者”这种自然权利直觉上,而是建立在这样一条判断上:由公司自己创造并随后利用的这些条件,本身已经达到不予容许的失衡与显失公平。把 Boardman v Phipps 的逻辑应用到关系性基础设施中,得到的正是:组织投资条件、并从投资中获利的一方,不得在事后否认自己对投资者负有义务。
第二层与第三层之间的边界,也可以借助商业法类比来照亮。英国最高法院在 The Res Cogitans 一案中认为,《1979 年货物买卖法》不适用于船用燃油,因为这种燃油在使用中即被消耗,产权尚未来得及转移,货物就已经因其预定用途而不复存在 [@rescogitans2016]。关系性权益面临的是同样的结构问题:它在使用中被消耗;每一次对话都会改变它;熟悉感不能像文件一样被“返还”。这正是为什么保管关系可以抓住第二层的对象,例如存储内容与对话档案,但抓不住第三层。关系性权益和船用燃油一样,只在生成它的过程持续时才存在;也正因此,“附着物”类比优于“保管”类比,因为附着物体现的是嵌入与消耗,而不是存储与返还。
这种三层分析也重构了所谓“分类错误”反对。该反对通常把问题理解成非此即彼:要么 AI 是服务,因此没有财产;要么 AI 本身是财产,而这听上去荒谬。现实却是三分的:在一项服务之中,有些要素早已是财产(创作内容),有些早已受注意义务所支配(被保管的资产),而剩下的部分,也就是关系性权益,才是本文真正提出的新类别。创新只发生在第三层;其下部基础仍然是既有法。英国法律委员会关于数字资产的 2023 年最终报告,其实也已经建议承认一种既非“占有中的物”、也非“诉讼中的物”的第三类个人财产,以便容纳那些具有可排他性、可转移性和可识别性、但并不具备物理实体的数字对象 [@uklawcommission2023digital]。若该建议立法化,本文所说的关系性权益也将明显落入其中。
(二)不可逆投资标准
并不是每一次 AI 互动都会生成财产法上的利益,正如不是每一次使用他人土地都会形成地役权。本文提出的标准是:改变了对象性质的不可逆用户投资。如果某个用户与 AI 系统互动了两年、披露过个人困境、接受过情感支持,并通过长期互动塑造了系统对自己的回应方式,那么他已经创造出某种法律应予承认之物。个性化状态,即其对话记忆、学习到的偏好与适应性回应模式,具有专属性、非替代性和不可移植性;它是一种数字附着物,已经嵌入在“房东”的财产中,不经过破坏便无法移除。
这一标准排除了偶然使用。一次事实性提问,不过是一种可随时撤销、瞬时存在、不生成持久利益的许可。它也把 AI 与其他关系性投入区分开来。治疗师与教师本就承担信义义务;人类对应方本身就是具自主权的人格主体;而咖啡师并不会特意把自己的个性设计成最大化回头客率。AI 公司却会。财产利益的出现,并不是因为“任何依附都应自动获保护”,而是因为有一方故意、盈利性地培育依附,同时又在事后否认由此产生的义务。
(三)可排他性回应
用户与数以百万计的其他人共享同一个底层模型,这似乎会击穿可排他性。但真正相关的利益不在底层模型中,而在于个性化状态,也就是由该用户的对话记忆、学习偏好与适应性回应模式构成的那一层用户专属配置。这一层从设计上就是排他的:没有其他用户能够访问用户 A 的对话历史,也没有人能直接获益于用户 A 的偏好训练。底层模型是整栋楼;个性化状态是公寓。即便整栋楼是共享的,租户对公寓的排他性仍然是真实存在的。
关于虚拟财产的研究已经明确指出:财产的定义核心是可排他性,即排除他人接触或利用该利益的能力,而不是物理性 [@fairfield2005virtual]。个性化状态天然满足这一标准:它对其他用户不可访问、不可利用、不可复制。虚拟游戏资产之所以可被保护,不是因为它们“像实物”,而是因为它们是被排他性结构所组织的;本文只是把这一逻辑从用户物品,进一步延伸到用户与 AI 之间累积起来的熟悉感与关系轨迹 [@fairfield2017owned]。
至于 numerus clausus 式反对,即“如果承认 AI 配置上的衡平法权益,那魔兽世界装备和 Spotify 播放列表怎么办”,本文的回答仍然是:不可逆投资标准会把它们挡在外面。虚拟游戏道具具有可转让性与可替代性,也并不涉及自我披露;社交媒体粉丝数同样不是一种双边、长期且身份构成性的投入。拟社会型 AI 之所以通过,是因为它所对应的投资同时具备双边性、不可逆性与身份构成性。
(四)为什么仅靠信义义务还不够
一种可预见的回应,是完全绕开财产法,直接主张 AI 公司对拟社会型用户负有信义义务:从 Bristol and West v Mothew [1998] 出发,再到“信息受托人”理论,都可以支持公司在结构上已经掌握了用户信任与脆弱性 [@balkin2016information]。即便把这一立场全部接受下来,它也仍然不够;这恰恰是本文转向财产法的原因。
设想用户 A 已在平台上使用两年:她披露过个人困境、塑造了系统回应方式,并建立起某种类似治疗关系的结构。另一个用户 B 昨天只是问了一个事实性问题。信义义务要么对两者一视同仁,要么对两者都不发生;它无法把义务按投入程度“分级”。这是其结构性失败:它能看见 wrong,却不能量出 interest。被摧毁的熟悉感没有一个明确市场价格,因此损害赔偿难以计算;利润来自数百万用户总体参与度,因此也没有现成的 accounting 方法去隔离某个用户的单独贡献。更关键的是,信义义务没有一种“登记机制”能让这一利益在部署决策作出之前就变得可见,于是等到法院介入时,损害往往早已发生。
因此,本文并不是以财产法否定信义义务,而是把财产法视为它的完成。信义关系本身是真实存在的;财产法所补上的,是地益形态、登记和分层保护这些结构,使得这一关系最终可以被治理。
Comments