中银文库
Library

AI“复活”技术及相关法律和伦理问题浅议

2024.04.07  

作者: 中银律师事务所    张涛华

分享到:
打开微信,点击“发现”,使用“扫一扫”即可分享到我的朋友圈。
   打印文章
近日,台湾音乐人包小柏用AI“复活”女儿的新闻引发了公众广泛关注。伴随着人工智能技术的迅速发展,“AI复活亲人”已渐成产业链。与此同时,AI换声、AI换脸等诈骗手段也越来越高级,有的人用来欺骗用户的情感和钱财…… 如何应对新技术带来的新问题?谁有权采用AI技术“复活”逝者?产生的数据属于何种权益?如何规避被诈骗风险?AI“复活”亲人,到底是有助于亲人情感的慰藉,还是营造出虚幻的假象……近日,楚天都市报·极目新闻视频连线武汉市律师协会合规审查法律专委会委员、北京中银(武汉)律师事务所张涛华律师解读其中涉及的法律规范、诈骗风险和相关伦理问题。现将张涛华律师的解读观点整理如下:

一.“AI复活亲人”渐成产业链背后的法律隐忧

“AI复活亲人”是一个备受争议的话题。就人工智能的发展而言,国家的态度是明确的。早在2017年7月,国务院《新一代人工智能发展规划》就提出:到2025年,初步建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力。同时强调近期重点关注对就业的影响,远期重点考虑对社会伦理的影响,确保把人工智能发展规制在安全可控范围内。2023年1月,《互联网信息服务深度合成管理规定》正式实施,为深度合成服务划定了“底线”和“红线”,强调任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。2023年8月15日,《生成式人工智能服务管理暂行办法》正式施行,也对生成式人工智能产业作出了较为详尽的规定。比如强调对生成式人工智能服务实行包容审慎和分类分级监管,鼓励生成积极健康、向上向善的优质内容;尊重知识产权、不得实施不正当竞争行为等。

当前,AI“复活”亲人已渐成产业链,这值得给予重视和思考。将AI“复活”亲人商业化,会涉及到肖像和隐私保护、数据安全以及服务质量的监管问题。从肖像的角度而言,死者并不享有肖像权,但我国法律对死者肖像的利益在一定程度上是承认和保护的。根据《民法典》第994条的规定,死者人格权益受到侵害时,死者的近亲属可以作为请求权人主张权利。虽然人格权在自然人死亡后失去了存续的基础,但其肖像、名誉等承载和保护的利益却不因此当然消失。若服务提供者未经死者配偶、子女、父母授权擅自使用AI技术将其“复活”或者存在其他不当使用死者肖像的行为,死者的配偶、子女、父母或者其他近亲属同样可向侵权人主张权利。通过案例检索也发现,各地法院均保护了死者近亲属对逝者肖像在敬思、追忆等层面上的精神利益。需要注意的是,即便在使用AI技术“复活”他人时取得了死者近亲属的授权,也未必一定不构成违法。

此外,在利用AI技术“复活”已故演员、歌手等知名人物时,往往会使用相关的歌曲、影视、著作等知识产权,如未合理利用该技术,很可能会超出法律和权利的边界。同时,如果这些服务提供者没有采取足够的安全措施,用户的照片和视频信息有可能被泄露,被用于不法目的。除了泄露隐私和侵权风险外,AI“复活”技术还可能涉及诈骗,损害消费者合法权益,甚至构成刑事犯罪。因此监管也需要随之跟上,AI“复活”技术提供者提供服务前,应明确要求用户提供相关证明,取得相应授权,做出合规承诺或声明。有关部门应尽快研究出台相关规定。

二.非商业用途就一定不会被追责吗?

如果是逝者的亲属自己用AI生成已故亲人的视频在家中用于情感慰藉,从肖像权、名誉权的角度讲,基本不会带来法律风险。但如果是未经死者配偶、子女、父母授权擅自使用AI技术“复活”他人,可能会带来较大的法律风险,尤其是当用于商业用途时。

当前一些博主用AI“复活”明星,并声称“是因收到了粉丝的请求,只要不用做商业用途,就不会有被逝者家人追责的风险”,这种说法是站不住脚的,该行为也存在侵权风险。

根据《互联网信息服务深度合成管理规定》第14条,深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。

当被编辑的人已故时,此种编辑是否还被法律所允许,以及若需要取得“单独同意”,应当取得谁的“同意”,谁才有权利表达这种“同意”都尚缺乏法律依据。显然,如果AI服务提供者依法提示博主应取得被编辑人同意,那么该博主在使用AI软件时,其实已经违反该规定。

若博主虽然用AI生成明星的视频时没有收费,但同时却推出面向一般公众的收费服务,即对其他逝者的视频要有偿服务收取费用。在此情形下,该行为并不属于“合理使用”的范围,虽然对已故明星的视频不收费,但制作其他逝者视频要收费,其真实目的有“利用明星的AI视频为自己的收费服务打广告”之嫌。被侵权明星的相关亲属,可根据《民法典》第994条提起诉讼维护合法权益。《民法典》第994条规定:死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任;死者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。

三.“数字生命”将给现有社会秩序带来法律和伦理方面的挑战

增进人类福祉应当是AI伦理的基本使命。AI应用所引发的伦理问题已经引起全球范围的广泛关注。2022年,联合国教科文组织出版了《人工智能伦理问题建议书》。该建议书提及:人工智能系统引发了新型伦理问题,包括其对就业和劳动、社交、个人数据和消费者保护、安全和治安影响等。

人类将数字赋予人的情感,人们在享受这种情感假体的同时要警惕数字文化失范的问题。数字永生带来的是将逝者的个人隐私“活”化,使得人们对隐私的界定再度异变,对于逝者的信息保护界限越来越模糊,除了可能会对逝者有所侵犯,也会引发一系列数字乱象。法律和制度应尽快跟紧技术,完善隐私保护制度和数字遗产归属机制。作为个体,我们要树立正确的生死伦理观,给予逝者尊重,同时增强自身的隐私保护意识,积极应对数字时代的挑战。

此外,生成式AI也将给社会交往带来挑战。基于深度合成等技术,虚拟人、聊天机器人等生成式AI应用为用户提供了有趣的、仿真的社交方式和全新的、丰富的社交体验。这些可能会让人们模糊真实社会交往与虚拟社交的界限,甚至可能降低人们的真实社交需求。

生成式AI也可能会造成社会角色的混淆。例如:如果一个已故的公众人物或政治、宗教领袖被“复活”,其“数字生命”可能会被用来发表言论或参与活动,这可能会影响公共舆论、政治决策等,造成社会混淆和冲突。

生成式AI在法律方面可能会带来的挑战需要重点讨论。使用一个人的形象和声音创建AI,可能涉及到隐私权和肖像权的问题。传统的隐私保护法律无法完全涵盖AI技术的应用场景,尤其是在个人数据处理、收集和存储方面;在创造“数字生命”时使用的语言、文字、图像、声音等元素可能会触及版权问题。目前,多数法律体系未明确规定非人类创作的知识产权归属问题。此外,这些“数字生命”本身是否能够拥有或创造知识产权,也是一个复杂的问题。

在中国,有案例支持AI所生成的(文字)作品构成著作权法所保护的对象。例如:在深圳市某计算机系统有限公司诉上海某科技有限公司著作权权属、侵权及不正当竞争纠纷案中(案号:(2019)粤0305民初14010号),法院确认了AI所生成的文字作品如果相对于已有作品具有独创性,并且创作过程中体现了创作者的个性化选择、判断及技巧等因素,那么AI所生成的文字作品就可以成为著作权法保护的对象。

值得注意的是,数字化时代的来临和人工智能的应用,将使劳动力市场发生新的重大变化。生成式AI的使用在大幅提高生产力和生产效率的同时,也可能导致大规模的职业变革和失业问题,现有的社会保障体系和劳动法可能需要调整以适应这种变化。

四.法律界其他关于AI“复活”及相关AI技术的讨论

法律界对AI“复活”的关注和讨论是广泛的,还涉及到遗产法和继承权,例如关于逝者的数字身份和数据是否可以视为遗产,以及谁有权力决定如何使用这些资料等都存在争议。如何在遗产法中纳入逝者的数字遗产,包括数字照片、视频、社交媒体账号以及其他个人数据,均值得探讨。

同时,关于AI技术引发侵权的责任归属和救济途径也需要注意。AI系统的决策过程复杂且不透明,当AI系统的行为导致法律纠纷或伤害,如何确定责任归属并为受害者提供适当的救济途径成为一个挑战。这涉及到AI系统的设计者、开发者、用户以及其他相关方的责任划分。

此外,AI系统可能因为训练数据的偏见而作出歧视性的决定,例如在招聘、贷款审批中。现有的反歧视法律可能不足以应对这种由算法引起的偏见问题。

显而易见,法律界对AI的讨论涵盖了从隐私权保护到伦理问题、从知识产权到消费者保护等多个方面。这些讨论反映了现行法律体系在面对新兴技术时可能存在的不足,需要不断地更新和完善来应对挑战。

五.采取应对措施 确保AI技术良性发展

如今AI技术应用领域越来越广,带来多方面的新挑战,需要从立法、执法监管、政策制定、伦理标准等多个层面和角度进行规范。具体来说,可以采取以下应对措施:

首先,政府和立法机构需要不断更新和完善相关法律和政策,以覆盖AI技术的新用途和新挑战,明确AI技术的使用范围和限制,以及违法行为的法律责任。同时,应有专门的监管机构来监督AI技术的使用和开发过程,实施动态监督和评估,根据技术进步和社会反馈及时调整和完善政策法规,确保技术健康发展。

其次,要推动伦理标准的制定和遵循。在AI技术开发和应用过程中,应该遵循伦理准则,确保透明度、公平性、非歧视性等。同时,可以通过行业协会和国际组织制定相关的伦理和技术标准。

第三,鼓励多方参与和监督。监管部门、市场主体、法律界和消费者等多方都应参与到AI技术的监督和评估中,形成多元化的监督机制,确保技术的发展和应用能够得到广泛的社会理解和支持。

第四,加强国际合作。面对AI技术的全球性挑战,各国政府、国际组织、行业组织、学术界应加强合作,共同探索和制定跨国界的AI技术应用和监管标准,促进全球AI技术良性发展。

第五,强化公众教育和培训。提高公众对AI技术的理解及潜在风险的认识,通过教育和培训提升人们的数字素养和技能,以帮助人们适应技术变革。

六.小结

AI“复活”已故亲人虽然在一定程度上能够满足人们对亲人的思念,具有一定的心理慰藉作用,但与此同时在伦理和道德上存在较大争议。AI生成的虚拟数字人终究只是算法堆砌出来的虚拟幻影,可能会改变人们对生命和死亡的看法,让一些人过度依赖虚拟互动,在冲击人们价值观念的同时还会引发法律纠纷。我们在享受科技带来便利的同时,也要对一些可能与之相伴生的伦理与法律挑战保持清醒。总之,科技发展的边界应该在维护社会法治、保护个人权益和确保伦理底线的前提下进行。

分享到:
打开微信,点击“发现”,使用“扫一扫”即可分享到我的朋友圈。

上一篇: 已经是第一篇了

下一篇: 已经是最后一篇了

推荐文章

  • 新《公司法》股东出资加速到期规则在追加被执行人案件中适用的商榷
  • 离婚财产分割之房产分割实务分析
  • 新《公司法》解读——注册资本实缴制分析及应对
  • 中银2023年度优秀案例分享——陈XX与引力传媒股份有限公司损害公司利益责任纠纷
  • 中银2023年度优秀案例分享——张某诉安徽一建筑公司建设工程施工合同纠纷案

相关律师

  • 张涛华

    zhangtaohua@zhongyinlawyer.com

    -执业律师