AI“复活”的亲人,还是你AI的那个TA吗?
来源: 作者:王晓鹏 时间:2024-06-20

在我们这个平凡而又精彩的世界中,生老病死是任何一种生物都要遵守的自然法则,生命从出生伊始就踏上通向终结的列车,这趟人生之旅上,我们有幸与至爱亲朋为伴,共度一段独一无二的人生旅程,但离别终究会到来,亲人总有逐渐离去的那一天,我们每个人都曾经幻想,亲人们如果能够永远陪伴在自己身边该有多好,但现实总是那么无可奈何……

随着生成式人工智能(AIGC)技术的发展,“复活”逝去的亲友,似乎不再是天方夜谭。最近一段时间,网络上出现了一些专业从事此项业务的商家,他们利用AIGC技术,让逝者重新出现在网络世界中。从最开始的让静态照片动起来这样的基础应用,到近期大量出现在网络上的虚拟数字人,技术的发展令人惊叹。从外表上看去,这些“复活”的数字形象已经和真人无异,外形、声音都和逝者一致,有些还可以与我们进行互动交流,表情自然,逻辑清晰,仿佛TA们从来就没有离开过,只不过是在另一个地方生活。

不可否认,对于思念亲人的生者而言,通过和AI虚拟形象的交流,从某种程度上确实能够缓解思念之苦,但是利用AIGC技术“复活”逝者,真的是一件好事?还是让人细思极恐,头皮发麻的恐怖游戏?这样的技术应用,又将面临着怎样的法律规制和伦理难题?新兴的技术给我们带来的是心灵的慰藉还是饮鸩止渴的电子麻醉剂?种种的问题,让我们不得不去思考和面对。

01、生成式人工智能(AIGC)的技术规制

2022年,随着ChatGpt的横空出世,生成式人工智能(AIGC)技术走入了大众的视野,和传统的被动接收指令,通过预设程序输出特定结果的“鹦鹉学舌”式AI技术相比,AIGC技术最大的进步在于:该技术中的人工智能可以通过学习大规模数据主动生成新的原创内容,它是基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。简言之,AIGC它不再是一个模仿者,它更像是一个会举一反三的优等生,通过学习人类的知识和经验,实现自我进化和迭代发展。

前文所述的“复活”逝者的技术,就是通过向AI“投喂”逝者生前的大量照片、视频、声音等要素,让AI通过特定的算法学习逝者的生物特征后,自动生成一个逝者本人的虚拟数字形象,这种数字形象与那种只能重复固定语言动作的“伪”AI不同,TA不但有以假乱真的逼真形象、声音,还有基于算法加持的基础逻辑推理能力,可以实现和使用者之间的实时互动,让人感觉屏幕里那个“人”就是一个实实在在,有血有肉的生命。

在AIGC技术运用层面,我国有专门的法律法规、司法解释、部门规章、技术标准进行规制,主要有:《数据安全法》《网络安全法》《个人信息保护法》《最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》(《人脸识别司法解释》)《互联网信息服务深度合成管理规定》(《深度合成规定》)《生成式人工智能服务管理暂行办法》《网络安全标准实践指南—生成式人工智能服务内容标识方法》以及正在征求意见的《生成式人工智能服务安全基本要求》。

上述各项规制文件对于AIGC技术的规制内容中比较重要的内容有:

1. 不得违法及悖俗,提供和使用AIGC技术,必须符合法律、行政法规,尊重社会公德和伦理道德,不得危害国家网络安全、数据安全、不得侵犯他人的合法权益。

2. 技术没有原罪,但是AIGC服务提供者对使用的算法、大模型及数据投喂行为的合法性、合规性直接负责,应建立从用户注册到应急处置全流程的管理制度,并保留技术数据备查。

3. 使用AIGC技术处理个人信息的,必须严格遵守《个人信息保护法》的规定,涉及敏感个人信息处理的,必须取得个人信息所有人的单独同意并在必要范围内有限收集、处理个人信息。

4. AIGC服务提供者对于人工智能生成的涉及自然人生物特征模拟、沉浸式拟真场景等足以使公众产生混淆或误认的图片、视频等内容的,必须在显著位置进行标注,提示公众相关内容系AI生成。

从上述技术性规制内容可以看出,AIGC技术作为一项新兴的技术,我国也是在摸索如何在鼓励技术创新和适度监管之间寻找一个平衡点,相关的规定还是集中于原则性的限制,更为详细的技术性规则,有的已经在征求意见中,有的还需要等待该项技术的进一步拓展应用,结合实践中发现的新问题再进行修正完善,但是虽然技术无原罪,但是使用技术的主体必须要有足够的风险意识和法律意识,守住法律底线,不可滥用技术,为所欲为。

02、AI“复活”逝者,应注意保护逝者的人格利益

通过AIGC技术“复活”逝者的过程中,我们除了要关注技术层面的规制以外,还要关注该项技术的应用是否会侵害逝者的人格利益。

我国对于自然人人格利益的保护延伸到去世后,逝者的人格利益也受到法律的保护,因此使用AIGC技术对逝者的形象进行处理,除了要符合技术规制之外,还要保护逝者的人格利益

《民法典》第九百九十四条明确规定:“死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任;死者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。”

《个人信息保护法》第四十九条:“自然人死亡的,其近亲属为了自身的合法、正当利益,可以对死者的相关个人信息行使本章规定的查阅、复制、更正、删除等权利;死者生前另有安排的除外。”

《人脸识别司法解释》第十五条:“自然人死亡后,信息处理者违反法律、行政法规的规定或者双方的约定处理人脸信息,死者的近亲属依据民法典第九百九十四条请求信息处理者承担民事责任的,适用本规定。”

上述法律、司法解释的具体规定都可以看出,即使自然人已经去世,单位或个人如果利用AIGC技术,通过“复活”的数字形象侵犯死者的人格利益,比如存在丑化逝者形象,侵害逝者的名誉,散布虚假信息,甚至利用该数字形象使他人产生混淆、误导,侵害了他人的合法权益,逝者近亲属或受到损害的第三方都有权利主张侵权损害赔偿责任。

03、处理敏感个人信息的合规要求

现实生活中,使用AIGC技术“复活”逝者,存在两种不同的情形,一种是未经逝者家属单独同意,利用技术手段,擅自处理逝者的个人信息,以达到营销推广、博眼球、引流量甚至是违法犯罪活动;另一种是取得了逝者近亲属的单独同意,家人们希望通过新的技术手段,让逝去的亲人重新出现在眼前,缓解思念之苦。针对这两种不同的情形,我们也需要进行不同的合规判断。

根据《个人信息保护法》第二十八条,面部信息属于个人信息中保护程度最高的“敏感个人信息”,对于敏感个人信息的处理,必须要取得个人的同意,自然人如果去世的,必须要经过死者近亲属的同意。

《人脸识别司法解释》第二条、《深度合成规定》第十四条也都明确规定了处理人脸信息必须经过当事人同意这一红线。

当自然人去世后,任何单位或个人如果要对逝者的面部信息进行处理,不管是否采用了AIGC技术,也不管逝者是明星还是普通人,都必须要经过逝者近亲属的同意,就处理的范围、用途、传播方式等方面进行充分告知。

前段时间网上闹得沸沸扬扬的“乔任梁父母痛斥商家复活乔任梁事件”、“李玟、张国荣等明星重生,与粉丝互动交流”的热点事件中,个别商家为了宣传自己的技术,进行商业推广,在未经去世明星近亲属同意的情况下,擅自通过AIGC技术“复活”明星的行为,实质上违反了《个人信息保护法》的强制性规定,属于侵权行为,去世明星的近亲属有权要求删除相关信息,并要求赔偿。

与此相对,如果商家获得了逝者近亲属的许可,法律并不禁止通过AIGC技术“复活”逝者,毕竟此时,技术的应用旨在给近亲属带来情感上的安抚与慰藉,应给予一定的包容。但是此种情形下,如果不加任何限制地使用这种技术“复活”逝者,是否会带来伦理道德上不可控的风险,我们同样也要认真研判。

04、“复活”逝者可能带来的伦理道德风险

生老病死,是人类无法逃避的自然规律,我们每个人都是这个世界上独一无二的存在。我们来到这个世界上,留下属于自己的人生轨迹,等到离开这个世界的时候,这个世界上不会再留下鲜活的印记,逝者生前的每一帧画面都是绝版且不可复现的,因为不可再现,所以回忆才弥足珍贵。

前文已述,取得逝者近亲属的单独同意,在合法合规的范围内使用AIGC技术“复活”逝者,通过技术手段慰藉家属们失去至亲的痛苦,从法律规制上看,并不违法;从个人情感上看,似乎也无可指摘。但这里有一个不可忽视的伦理问题是:屏幕里的这个人,他所说的话,展示的动作,只是商家或亲属本人想看到和想听到的一场“演出”,那个足以以假乱真“TA”真的是你曾经深“AI”的亲人么?

通过虚拟的“生者”慰藉现实中的生者,短期看也许缓解了相思之苦,但是笔者却认为:长此以往,弊大于利。

我们回忆一下,在AI“复生”技术出现之前,失去至亲的至暗时刻过后,我们大多能够慢慢接受“人死不能复生”的自然规律,时间会逐渐抚平伤痕,逝者已矣,生者如斯。但是现在,随着AIGC技术的兴起,如果亲人可以随意 “复生”,当看到离世多年的亲人重新出现在我们眼前时,那本已抚平的伤疤可能被再次揭开;又或者我们为了能缓解思念而主动沉湎于虚妄的幻境中,不可自拔,与一个数字形象如胶似漆,不自觉地淡化了对那位真实逝者的缅怀,AI亲人变成了一个逃避现实的“电子麻醉剂”。这样的情景,难道不是对真正逝者最大的不公吗?


结语

对于一项新兴的技术,特别是可能改变我们传统生活方式的新技术,我们理应抱有足够的宽容,正如现在我们感叹于AIGC技术的迅猛发展,对于AI展示的奇妙世界叹为观止,也为AIGC技术对于我们生活、工作带来的巨大变化而惊叹不已。但是技术永远是一把双刃剑,AI究竟会成为无所不能的“哆啦A梦”为我们解决身边的烦恼?还是会成为毁天灭地的“天网系统”,终结人类文明?也许就是取决于当下在其技术发展过程中,我们选择怎样的价值观对TA进行有效地规制和引导。正如本文探讨的问题一样,AI技术“复活”的那个TA,还是您深AI的那个TA吗?这个问题,也许不会有一个标准答案,但是笔者仍然坚信,技术的发展永远不应该挑战人类最基本的情感,人作为一种生物个体的存在,应当尊重生命,敬畏生死,我们的生命终结之后,应该交由另一种方式在世间被延续,被纪念,不应被一种虚幻的数字伪像取代。

< 主张加班费不得不知的七个劳动法问题 返回列表 高级管理人员违反忠实义务,用人单位能否单方解除? >