唐骁|人工智能背景下“数字复活”的伦理探究与法律规制

数字复活技术涉及数字化人格权益保护与伦理危机。数字人格权的提出是数字与物理融通互联背景下适应科技发展的客观需要,也是自然人人格权益内涵不断丰富过程中的确权与保护回应。以数字复活为代表的数字人格权属于人格权的一种,又兼具其他权利的部分特征,具有主体的特定性、客体的综合性复杂性、内容使用的定限性。我国民法典规定人格权分为一般人格权与具体人格权,为新兴人格权预留了法律空间。数字人格权的构建以数字信息为主要内容,保护核心是其背后承载的人格利益。随着数字复活技术的发展,中止“数字复活人”在虚拟世界中的“幽存”需要在“伦理先行”的前提下定制相关程序进行。死者近亲属有权以自己的名义,根据物理世界的死亡判断,请求在数字世界中宣告自然人的死亡。

唐骁|人工智能背景下“数字复活”的伦理探究与法律规制

数字复活是指运用人工智能技术,通过对逝者的声音、肖像等外在特征,生活习惯、语言习惯等内在特征数据的搜集,通过算法在电子媒体上以虚拟的形象再现逝者的音容相貌,并可以与之进行交互。数字复活技术是在web3.0时代下人工智能技术催化的生活化应用,体现了以数据与算法为核心的新技术,逐渐从虚拟的互联网渗透到公民的现实生活中,背后是智能医疗领域甚至智能生物领域的广阔应用蓝海。数字复活技术涉及数字化人格权益保护与伦理危机。在其日渐市场化进程中必然面对挑战,违背自然伦理的引发的“道德审视”,它的“强人身附属”属性与其他人工智能产品在未来大规模普及之前蕴含着极大的法律风险,是否能够一概而论,适用现行立法空白、协议前置下关于人工智能伦理方面的制约,“数字复活产品”数据的泄露侵害公民个人信息权、隐私权的合法救济。

作为新一轮技术变革中产生的人性化产物,在思虑其为公民赋予情感价值的基础上,更要思考的是数字复活技术背后的伦理危机,当今人工智能法勃兴之态下的法治体系构建与法律规制。本文意在分析人工智能背景下以数字复活为代表的新兴权利发源、证成、保护,通过提炼与概括这种新兴综合性权利的特征、内涵,推动公民权利的保障与实现。

数字复活是人工智能技术高速发展下的人性化产物。始肇于智能互联网的智能化、去中心化、开放化,在2010年代后逐渐兴起一批“原复活数字”的产物,主要以模拟逝者的语言习惯、声音为主。进入2020年代,数字复活技术呈现多元化与复杂性,逐渐以更加精确模拟逝者的肖像、声音、行为习惯再现于电子载体上。数字复活的价值迄今为止主要围绕在死者近亲属的情感寄托需求,并不排除商业用途。

近年来,苹果、谷歌、微软、亚马逊、脸书等科技公司逐渐兴起对社交网络上用户的反应与评价的搜集,训练人工智能思维与表现模式,人工智能企业就该领域取得相关专利,通过借助声音、图形、视频等数据,设计出于死者生前相对应的拟态模型。在中国,某些公司的“定制数字人”功能、虚拟数字分身等功能,只需上传死者的照片、音频等文件,就能将死者复活于电子载体之上,与拟态数字人进行对话。可以预见,数字复活在AI领域的商业应用,方兴未艾。该领域目前并未形成精准的行业规范,容易滥用。

《论语》有云:“生事之以礼,死葬之以礼,祭之以礼。”中国古代对于亲属的生死通过礼仪的进行来表达对逝者的尊重。民法典也包含对死者人格利益的保护,对于侵犯姓名、肖像、名誉、荣誉、隐私、遗体的,其配偶、子女、父母有权请求行为人承担责任。

其一,通过人工智能技术将死者在电子载体上“再生”是否剥夺了死者自身的人格尊严?关于死者尊严以及死亡的讨论国内大多学者只停留在物理层面,或者围绕“安乐死”展开。实践中,缺乏保护死者生前的自主权与隐私权益的伦理原则、法律准则。也有学者提出,随着数字技术的成熟,“数字化死亡”这一说法(除非死者生前授权,不然通过对死者在虚拟世界的“复活”是不道德的)。根据我国个人信息保护法第49条规定,自然人死亡的,其近亲属为了自身合法、正当利益,可以对死者的相关个人信息行使本章规定的查阅、复制、更正、删除等权利;死者生前另有安排的除外。从法理角度来看,死者生前个人意思表示的排除以外,现行“数字复活”的法律渊源基于近亲属的“自身合法、正当利益”。对于正当利益的理解,司法方面缺乏明确的法律解释。根据该法第1条规定,从保护个人信息权益,规范个人信息处理活动,促进个人信息合理利用的角度解释似乎过于牵强,数字复活的授权在实践中受到不同伦理考量。针对失独母亲李某提出通过“数字复活”女儿陈某的请求,为了防止亲属的虚拟沉溺,影响李某的心理治愈,某公司无限期暂缓交付技术层面上可以满足的AI产品,取而代之交付李某以一小段模拟音频。

其二,在此项技术市场化的情况下,“数字复活产品”流入市场后,在生成式人工智能技术的大框架下,逝者的“公开利益”(人格利益商业利用),相对人进行使用时法律行为的尺度界限何在,数字复活数据权利与人格利益耦合的特殊性质,意味着泛娱乐化之前的确权与保护亟待商榷。最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定第15条规定,自然人死亡后,信息处理者违反法律、行政法规的规定或者双方的约定处理人脸信息,死者的近亲属依据民法典第994条请求信息处理者承担民事责任的,适用本规定。根据现行法律法规,因数字复活产生的侵权主要由民法典、民事诉讼法以及司法解释规定,保护的法益主体为死者的姓名、肖像、名誉、荣誉、隐私、遗体、遗骨等权益,侵权者承担以精神赔偿为主的民事责任。

随着人工智能技术日渐融入经济、文化、社会领域,数字人权的提出也成为了代际正义与保护人权的核心。在现代民法理论中,人格权是指民事主体以人格利益为客体的对世性权利,与民事主体的出生、死亡密切相关的专属性权利。人格权的扩张保护还体现在,当自然人死后,当其人格利益受到侵害时,其近亲属有权通过诉讼进行救济。现行人格利益保护的法理是基于死者与近亲属之间的亲权(身份权)产生的。王泽鉴教授认为,身份法益与人格法益同属于非财产法益,根源在于身份法益也具有人格关系。换言之,死者人格利益的保护源于死者与近亲属之间的人格关系。

关于死者的人格利益保护,主要理论依据有“直接保护说”与“间接保护说”,我国现行司法实践观点大多采信“间接保护说”,即通过对死者近亲属人格权益的保护间接保护死者本人的人格利益。我国近年主流观点否认死者具有人格权,对于死者本人而言,基于死亡这一法律事实,自我权利的保护已不复存在。对于死者的近亲属来说,这种法益是一种具有非财产性质的人格权利。刘德良教授最新提出,如前所述,身份人格权是一种基于特定身份关系的、可支配的绝对权。主体是身份关系相对人,客体是根据亲属关系远近而确定的人格关爱利益,体现为身份人格权人的尊严利益。

死者近亲属享有对死者“数字复活”的身份人格权。数字复活技术涉及的权利,在不涉及商业用途的前提下,只发生在相对人对死者人格利益侵犯的条件下,对于死者近亲属而言是一种身份人格权。

随着民法权利概念的延伸与扩展,在传统民法“人”“物”二分法的框架下,将“数字复活人”简单划分为“物”显然很难承载其物上承载的人格利益,有学者认为,将赋有人格利益与财产利益的特殊物,例如“冷冻胚胎”称之为“人格物”。其本质还是将其划分为“物”中的一种。根据《人类辅助生殖技术管理办法》第3条规定,禁止以任何形式进行胚胎的买卖,“冷冻胚胎”不具有互易性,禁止进入市场。根据双方意思表示一致,“数字复活人”进入市场的门槛较低。本文认为,首先,与一般“人格物”受侵害时所主张的物权救济存在区别,也基于对人性、人伦的尊重,数字复活作品涉及的权利主要是死者近亲属的一种身份人格权,将其“物化”不仅不能体现对死者的人格尊重,将情感价值物化对于死者近亲属来说也是不可接受的。其次,从侵权的救济手段来看,以精神赔偿为主也印证了前述观点。

而随着数字复活技术的成熟与市场化,“数字复活人”承载的身份人格权益不足以概括其所有属性,除了一般人格权的具象化体现,知识产权作为其扩张化过程中的附属属性,愈发凸显。从人格权的角度上来看,民事主体可以根据自己的意志对人格利益进行各项民事活动,控制、利用、有限转让权、适当处分权。数字复活权不仅涉及行为人的身份关系,还以民事主体的民事法律行为与事实行为相关。根据著作权法第3条规定,作品,是指文学、艺术和科学领域内具有独创性并能以一定形式表现的智力成果。

根据2023年北京互联网法院一审宣判的人工智能生成图片著作权纠纷一案,北京市互联网法院认为,人工智能模型生成图片本质是人利用工具进行创作,涉案图片是基于原告的智力产出生成的,因此原告享有对创作图片的著作权。该案判决对于通过人工智能平台生成作品的权属所有具有借鉴意义。

厘清“数字复活人”著作权的主体与客体,对于尊重与保障人权具有建设性意义。本文认为,简单的数字复活,通过“弱人工智能(Artificial Narrow Intelligence/ANI)”实现,例如模仿死者的声音或者通过事先编辑好的算法剧本所创作的,能进行简单交互的“数字复活人”著作权属于死者近亲属本人;而复杂的数字复活,通过“强人工智能(Artificial General Intelligence/AGI)”或“超人工智能(Artificial Su-per Intelligence/ASI)”实现,需要搜集死者生前的生活习惯、语言习惯综合性生前特征,并具有准行为人意识的“数字复活人”的著作权,根据我国著作权法第14条规定,两人以上合作创作的作品,著作权由合作作者共同享有。著作权分为著作人格权与著作财产权,著作人格权一般视为保护作者非财产性权益的权利,在英美法系与大陆法系国家均视署名权、作品完整权为具体著作人格权中的圭臬。为工程师或编程师与近亲属所共有,但只限于著作权领域,工程师或者编程师并不当然享有对此类“作品”的身份人格权,基于对死者与死者近亲属人格尊严的尊重,更应排除工程师或编程人员著作权中财产性权利。这也和民法典第992条人格权不得放弃、转让或者继承形成法秩序层面的统一。

死者近亲属享有对死者“数字复活”的著作人格权。在数字复活创作的过程中,具备著作权法中提到的法律三个要素:文学、艺术和科学领域,独创性,智力成果,“数字复活人”即可成为法律上所保护的作品。

对于数字复活的可商用性,民法典第993条规定,民事主体可以许可他人使用自己的姓名、名称、肖像等,但是依照法律规定或者根据性质不得许可的除外。本条法律规定将对人格利益的商事人格权主体限定于民事行为能力人本人,并未言清是否对他人拥有商事人格权。个人信息保护法第49条对其进行兜底性排除,即除非死者生前通过意思表示排除数字复活,近亲属在合法、正当的范围内可以对死者进行“复活”,这只是基于对死者人格利益的保护,而不是有利于市场自由创作。与一般人工智能平台创作出的“作品”不同,本文认为数字复活并不具有商用人格性,即近亲属通过“数字复活人”进行盈利的可能性。

人格利益客体分为物质方面的人格利益,例如生命、健康、身体等利益,以及精神层面的人格利益,包括肖像、隐私、名誉等利益,人格权法的保护兼顾财产利益与精神利益。出于对人格尊重与公序良俗的维护,民法在人格利益的某些方面是绝对排除商用的,例如身体权,禁止买卖。而在某些方面,未制定禁用性规则,肖像、名称等权利可以通过授权或者合同等方式转让他人、许可他人使用,换言之,在人格利益的某些领域具有商事人格权。

数字复活具有综合性,在创作的过程中综合了死者的多项人格利益,主要涉及肖像、姓名、名誉、隐私、个人信息等。数字复活具有错时性、滞后性,“作品”一般产生于民事主体死亡之后。综上,近亲属可以与平台通过合同等意思表示进行死者数字形象的创作,但是不享有对死者数字复活的商事人格权,通过数字人进行盈利。

死者近亲属不享有对死者“数字复活”的商事人格权。在现行数字复活领域中,个人信息保护法第49条中的“正当”一词在前述情况下可以解释为两种目的:一、出于对人格的尊重。包括对当事人的悼念,例如粉丝自发对偶像歌手(邓丽君、李玟)的数字复活创作;对当事人近亲属的心理慰藉。两者都体现了对人的情感的尊重。二是出于维护公序良俗的目的。通过对英雄、烈士的“再现”,推动爱国主义教育,宣传英烈事迹和英烈精神。

在立法中心主义的背景下,我国对新兴权利的保护从早期的立法保护模式,逐渐发展到现今的司法中心保护模式,以权利保护依据多元化、保护方式动态化、关注个案正义为特征。数字复活一类有关精神利益与财产利益的权利,主要以个人信息的数据形态呈现的,兼具主体特定性与客体综合性、复杂性、人身性,具有新形态、新内涵、新意义的人工智能背景下产生的与人格利益息息相关的权利,即数据人格权,正从实在权利的层面上过渡到完全法定权利。

我国民法典规定人格权分为一般人格权与具体人格权,为新兴人格权预留了法律空间。有学者提出,信息性人格权是基于信息性隐私权、个人信息权、信用权和被遗忘权等具体权利的综合性权利。主要以信息保护为核心,从狭义上关注公民的信息安全与隐私安宁。而以数字复活为代表的数据人格权从广义的角度出发,不仅包括公民的身份人格利益、著作权益、可公开利益、个人信息利益、隐私安宁等,具有更广泛的内涵。两者背后目的都是为了维护人格尊严与适应协调社会的发展。

主体特定性是指,数据人格权的主体不仅是特定的民事主体本人,在特定条件下为维护自然人的人格利益、人格尊严,主体的范围还扩张到基于身份关系的民事主体之近亲属,以数字复活为例,其实质是保护数据信息背后的人格利益。将主体范围扩展对于权益的救济在民法的其他领域也有先例,例如无、限制民事行为能力人的代理与监护制度,死者人格利益的保护制度,婚姻无效的请求制度,其背后的法律目的是当事人的合法权益受侵害时,处于弱势的当事人一方不能有效申请救济自己的权益,近亲属作为与之亲缘关系的人,代其行使请求权,弥补了当事人不能或不便及时保护自己权益的漏洞。而近亲属拥有对死者数字复活的数据人格权的法理基础并不是源于民法典第1122条,而是民法典第994条,普遍观点认为,人格权益不能被继承,因此,抛开死者的物质性遗产之外,亲属拥有关于死者数据人格权的法理根源是为了维护死者的人格尊严。如前述,人工智能平台作为辅助“作品”完成的工具,工程师、编程师更不享有此类人工智能产出物的数据人格权。

客体的综合性与复杂性是指,形式上,数字人格权的客体不仅以公民的个人信息为保护对象,民法典第1034条第2款将“姓名、出生日期、身份证件号码、生物识别信息、住址、电话号码、电子邮箱、健康信息、行踪信息等”;实质上,还以在虚拟网络空间内承载的精神权益相关,最高人民法院、最高人民检察院公布《关于办理信息网络实施诽谤等刑事案件的司法解释》中规定,在移动互联网上在特定的情况下捏造事实诽谤他人会受到相关刑事处罚。换言之,公民的名誉权、荣誉权在信息网络中以互联网人格为表现形式,当现实人格以数字人格受到侵犯时,同样会受到法律的规制与处罚。通过民事主体的肖像、姓名、名誉、荣誉、隐私、个人信息等多项人格权益综合共同组成了数字人格,相对人侵犯数字人格权时,往往涉及的是一系列当事人的权利受损。

内容的定限性是指,法律赋予权利主体对其人格利益的自主决定与利用的积极权能,并不能对所有人格利益进行利用。人格权首要的特殊性在于其防御性,人格权与自然人具有强烈依附性,法律通过侵权责任对人格利益进行保护,人格权本身不存在取得或行使的问题,其目的也是出于对人格的尊重。对于死者的人格利益保护,主要采用兼具刑民双重保护模式,我国刑法从物理层面来看,第234条第3款规定盗窃、侮辱、故意毁坏尸体、尸骨、骨灰的,处3年以下有期徒刑、拘役或者管制。从精神利益方面考量,主要规定在民法典与个人信息保护法中。如前述,在数字复活领域,除了出于对人格尊重或公序良俗的维护两个原因,近亲属并不享有对死者数字复活“作品”的商事人格权、人格利益商业利用权。

《关于加强科技伦理治理的意见》总体要求中提及,促进科技事业健康发展需要伦理先行,将伦理工作融入研究、开发、使用的全过程,尊重人格尊严和个人隐私,有利于科技伦理原则的明确。

2024年1月据工信部消息,根据产业发展和行业管理需要,有关单位提出元宇宙标准化工作组的组建方案。根据工信部等五部门发布的《元宇宙产业创新发展三年行动计划(2023-2025年)》,元宇宙是指数字与物理世界融通作用的沉浸式互联空间,是新一代信息技术集成创新和应用的未来产业。在未来几年中,公民在元宇宙中的数字人格将会逐渐丰富、完整。对于自然人的死亡判断,民法典中以死亡证明、户籍登记、其他有效身份登记记载的死亡为准,满足法定条件与程序,利害关系人可以向法院申请宣告死亡。上述判断为基于物理世界的死亡确认。可以预见的是,随着数字复活技术的发展,中止“数字复活人”在虚拟世界中的“幽存”需要在“伦理先行”的前提下定制相关程序进行。死者近亲属有权以自己的名义,根据物理世界的死亡判断,请求在数字世界中宣告自然人的死亡。

数字人格权的构建以数字信息为主要内容,保护核心是其背后承载的人格利益。内在逻辑关系不仅涉及人格权与亲权、人格权与著作权等权利的关系,在目前的民法典体系中难为一统,数字人格权的提出有利于更加完备的人格权理论,与人工智能时代相呼应。数字人格权的规范构建对于保护web3.0时代下自然人的人格权益奠定了理论基础。

承载人格权益的新兴权利呈不断扩张之态,如数字复活等技术产生的新态势产生了新的社会关系,亟需丰富以民法典为基础的理论诠释与法制构建。在新一代以创新为驱动的互联网高端化、智能化、绿色化前提下,在现行法律体系与框架下凸显数字人格权,是回应公众期待与法治要求的必经之路

唐骁|人工智能背景下“数字复活”的伦理探究与法律规制

包于宏等|防范化解重大风险视域下优化自贸区营商环境的法治路径——基于舟山片区的探索实践

罗晓琴|论长三角生态绿色一体化发展示范区执行委员会的法律地位

杜佳璐|构建通用人工智能的人机协同治理方案研究

李潇潇|人工智能侵权民事责任研究

陈建军|人类参与视角下人工智能生成物著作权法分类保护研究

陈馨月|人工智能生成作品的归属研究

上海市法学会官网

http://www.sls.org.cn

特别声明:本文经上观新闻客户端的“上观号”入驻单位授权发布,仅代表该入驻单位观点,“上观新闻”仅为信息发布平台,如您认为发布内容侵犯您的相关权益,请联系删除!