AI“复活”逝者成清明节新生意
发稿时间:2024-04-08 12:51:00 来源: 北京青年报
仅需一张照片和一段逝者录音,就能在数字世界中让逝者“永生”……清明节前后,此类AI“复活”广告宣传在各大电商和社交平台上日益活跃,甚至演变成一门新“生意”。技术的发展为满足人们的精神与情感需求提供了更多载体,与此同时,AI“复活”也引发强烈争议。有专家提出,AI“复活”技术被滥用,或将带来侵害个人权益、数据隐私安全、传播虚假信息等问题。
市场
“复活”亲人“商品”售价几十元至几百元不等
“大家好!其实我没有真正离开这个世界……”不久前,已故艺人与公众亲切“打招呼”的视频在社交平台上引发网民关注,也让AI“复活”这一话题进入公众视野。
利用AI技术将逝者“复活”,渐已发展成新“生意”。某电商平台的数据显示,在平台经营AI“复活”相关业务的商家达1900余个。
在一家电商平台上,某商家称,让照片中的人物动起来20元,如果要配上“AI人声”则需收费50元。数据显示,该商家已达成超800次交易。在该电商平台上,“复活”亲人的“商品”售价在几十元至几百元不等。
“有的‘复活’效果‘一眼假’,其实是过去‘照片活化’技术的延伸。有的‘复活’效果很逼真,多是采用‘深度合成’技术。”中国电子技术标准化研究院网安中心测评实验室副主任何延哲认为,当前市面上绝大部分的AI“复活”并非刚出现的“新技术”。
一些商家已开始兜售“AI‘复活’技术变现指南”。在某二手交易平台上,记者以19.9元的价格购买了一份“AI‘复活’技术教程”。除文字说明外,还有视频讲授如何制作“照片活化”的短视频。
记者了解到,当前网络上的AI“复活”工具主要分为三种。
一种在手机应用商店中即可下载获得,只要一张正脸照片就能根据应用中所提供的模板“活化”,可实现歌唱、“演电影”等场景转化。
第二种是利用线上工具,由用户提供正脸照片和相关音频文件,经过系统自动编辑后,实现照片中人物“开口说话”的效果,该工具需要用户支付一定费用。
第三种则是在开源社区中,由程序员编写AI测试程序,在经过相关语料训练后,将照片转化为能简单对话互动的“数字人”。此类程序门槛较高,需要一定计算机知识基础。
风险
技术使用不当或被利用实施诈骗等
AI“复活”的话题引发重重争议。
有专家认为,是否进入公共场域,是判断AI“复活”是否侵权的重要分界线。
世辉律师事务所合伙人王新锐表示,个人利用AI“复活”亲人、缅怀纪念,且在必要范围内使用,无需过度干预。而如果在公共平台扩散传播,用于市场盈利,是否侵犯他人或社会公共利益就要特别考量。
“在未依法获得逝者相关近亲属授权的情况下,擅自使用逝者面容将其‘复活’并进行商业推广,涉嫌侵害逝者的肖像和名誉等权利。”北京康达(厦门)律师事务所高级合伙人张翼腾说,根据民法典相关规定,如未经许可,擅自使用逝者的姓名和面容用于“复活”,逝者的近亲属有权依法请求行为人承担民事责任。
一家社交平台相关负责人表示,平台认为,未经逝者生前同意或逝者家属授权,他人不应使用AI或任何技术手段“复活”逝者。该负责人称,如果家属投诉或侵权行为被查实,平台将对侵权账号作出处罚。
AI“复活”还涉及“数字遗产”问题。张翼腾说,逝者生前的个人信息、聊天记录等“数字遗产”能否继承,目前没有明确法律规定。对于谁有权使用、如何避免不当获取、使用时应遵循何种规范等问题,仍需进一步明确。
此外,相关服务中,AI需要处理大量个人敏感数据,如面部表情、语音语调等;数据一旦被滥用或泄露,会对用户隐私造成威胁。业内人士建议,开发者和使用者都应承担责任,确保技术不会误导用户或影响人类情感;同时也要注意隐私保护和数据安全。
值得关注的是,AI“复活”技术使用不当,也可能成为犯罪分子实施诈骗等犯罪活动的工具。
“服务提供者不会也没有能力核实‘逝者’的身份信息,一些不法分子也可能以‘复活’之名行‘诈骗’之实。”中国科学技术大学网络空间安全学院教授左晓栋说,面对新的电信网络违法犯罪活动时,不熟悉网络应用的中老年群体更易成为受害者。
AI“复活”也可能衍生新型法律纠纷。“不排除有人会借AI‘复活’来伪造逝者遗嘱或做出其他违背逝者意愿的事。”王新锐提出,如有近亲属利用这项技术伪造音视频遗嘱,或将耗费更多时间和人力成本来验证真实性,甚至给司法鉴定带来一定挑战。
建议
AI“复活”产品应加强内容“标识”
业内专家认为,技术创新永无止境,其应用应有道德边界和法律规范。应抓紧完善相关法律法规,警惕AI“复活”技术可能产生的社会风险。
首先,AI“复活”技术的应用,应严格遵守知情同意原则,在网络传播过程中不侵犯他人利益。
2022年,国家网信办等三部门发布《互联网信息服务深度合成管理规定》,对深度伪造等新技术应用进行了规范。规定明确,深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。业内人士认为,如果被编辑人是逝者,理应取得有义务保护逝者肖像权的亲属的同意。
其次,不少专家提出,AI“复活”产品应恪守技术管理规范,加强内容“标识”。
左晓栋等专家表示,根据有关规定,相关技术服务提供者必须对“生成内容”进行“标识”;在已有原则性要求的背景下,可出台相关行业标准,要求相关技术服务提供者在生成式内容中添加“水印”,防止不法分子借用该技术实施违法犯罪活动。
另外,业内人士提出,在数据处理过程中,要更注重隐私保护和数据安全。
2023年,国家网信办、国家发展改革委、教育部等七部门联合发布《生成式人工智能服务管理暂行办法》,进一步明确了生成式人工智能的行业发展规范。办法规定,提供者应当依法承担网络信息内容生产者责任,履行网络信息安全义务。涉及个人信息的,依法承担个人信息处理者责任,履行个人信息保护义务。
专家还建议,要进一步落实相关平台的主体责任,处置借AI“复活”概念不当牟利的不法商家。
“不能放任AI‘复活’变成一门没有规矩和底线的‘生意’,尤其要保护对新技术不敏感的中老年用户群体。”中国法学会消费者权益保护法研究会副秘书长陈音江建议,有关平台要帮助中老年用户群体辨别深度伪造技术,取缔不当得利的违法违规商家,尽可能减少技术滥用带来的社会风险。
法律界人士建议,有关部门对AI“复活”的需求和其衍生的产业链要保持关注、合理辨析,在现行法律法规基础上做好数据保护、涉诈犯罪风险预防等方面的监管。
此外,普通群众在面对诸如AI“复活”等新技术时,要提高警惕,一方面要避免掉入不法商家借新技术之名设下的虚假宣传之坑,另一方面也要提防诈骗者运用深度伪造技术乔装“亲友”实施电诈行为。
4月8日发布的《2024年一季度人才市场热点快报》显示,今年一季度蓝领岗位表现亮眼,招聘规模...
2024-04-09 16:28:00毕马威中国4月8日发布的《智能工业企业未来展望》(以下简称“报告”)预计,从2022年到2025...
2024-04-09 16:28:00随着金价的上涨,“卖金热”也引起了社会广泛关注,#囤金大户忙变现黄金#话题甚至一度冲上微...
2024-04-09 16:25:00据中央气象台网站消息,新疆维吾尔自治区气象台2024年4月9日15时14分发布暴雪蓝色预警信号:...
2024-04-09 16:25:00邢某某还通过个人直播和在直播间连麦的方式反复对王某某进行辱骂。辽宁师范大学法学院院长 陈...
2024-04-09 16:20:00由中央网信办主办的2023中国正能量网络精品征集展播活动结果揭晓,550件网络正能量作品脱颖而...
2024-04-09 15:55:00当前正值“金三银四”就业季,各种针对应届生的招聘会不断。
2024-04-09 13:49:004月9日,中国足协公布三份处罚决定,其中中超天津赛区因在比赛过程中及比赛结束后,少数观众...
2024-04-09 13:39:00这是有着40年教龄的丁忠书第一次面对这群“特殊”的学生,为他精心备课,重新调整了课程教案...
2024-04-09 13:45:00美国保尔森基金会下属的麦克罗波洛智库近日发布了《全球人工智能人才追踪调查报告2.0》。报告...
2024-04-09 13:44:00国家发展改革委会同中央宣传部、住房城乡建设部、文化和旅游部、国家广播电视总局、国家林草...
2024-04-09 13:33:00根据中国新闻奖评选办法,中国青年报社推荐《青年茶座:外卖小哥如何共圆心愿》参评第三十四...
2024-04-09 13:28:00根据中国新闻奖评选办法,中国青年报社推荐《红旗渠精神云展厅》参评第三十四届中国新闻奖应...
2024-04-09 13:26:004月8日,“国际军事比赛-2024”“萨彦岭行军”雪地作战行军比赛,在俄罗斯落下帷幕。
2024-04-09 13:18:00眼下青海湖旅游专用公路(I期)工程正在加紧建设,预计年内建成通车。
2024-04-09 12:46:00俄罗斯媒体4月9日报道称,俄罗斯驻美大使阿纳托利·安东诺夫称,乌克兰加入北约对俄罗斯来说...
2024-04-09 12:46:00香港特区行政长官李家超9日出席行政会议前会见媒体时就此表示,希望工作小组成员们将自身关于...
2024-04-09 12:42:00弗朗西斯·斯科特·基大桥坐落于美国马里兰州巴尔的摩市。自1977年建成以来,它一直是这座城...
2024-04-09 12:37:00为完善边境贸易支持政策,优化边民互市贸易多元化发展的政策环境,财政部、海关总署、税务总...
2024-04-09 12:07:00针对规范网络消费的问题,司法部立法二局负责人郭启文指出,《条例》完善了网络消费相关规定...
2024-04-09 11:51:00卖一买一、卖旧买新、买小买大……这都是当前房地产市场上,重要的房屋改善和消费升级的需求...
2024-04-09 11:51:004月8日,网传内蒙古杭锦旗中学发生一起学生打架事件。
2024-04-09 11:51:002024年4月9日2时03分,支队指挥中心接报荔湾区海龙街道花博大道101号百艺城发生火灾警情,支...
2024-04-09 11:49:004月10日,韩国第22届国会选举拉开帷幕。本次选举涉及300个国会议席。对韩国执政党国民力量党...
2024-04-09 11:48:002024年上半年个人(含家庭申请人、多车转移申请人及夫妻变更/离婚析产转移车辆申请人)和单位的...
2024-04-09 11:25:00据“梧州发布”微信公众号消息,广西壮族自治区梧州市苍梧县应急管理局4月9日发布情况通报称...
2024-04-09 11:10:004月8日,中甲球队辽宁铁人官方宣布,聘请54岁的前中国男足国家队队长范志毅担任教练组组长兼...
2024-04-09 11:10:00记者4月9日从山西省应急管理厅获悉,山西省安全生产委员会办公室(以下简称“山西省安委办”)...
2024-04-09 10:58:00中国国民党前主席马英九8日在北京表示,任何“去中国化”的行径都不会成功。4月8日,正在北京...
2024-04-09 10:58:00近日,广东惠州出现雷雨大风强对流天气,网络视频显示,一户居民的阳台落地玻璃窗被大风整扇...
2024-04-09 10:55:00近日,四川眉山,王同学考研复试出成绩,全家一起查分数,看到总成绩排名靠前时,全家都很激...
2024-04-09 10:46:0024小时内阿拉善盟北部、巴彦淖尔市北部和东部、鄂尔多斯市北部、包头市、呼和浩特市、乌兰察...
2024-04-09 10:28:00