泉州网  泉州晚报  泉州商报  今日台商投资区  旧版入口






2024年03月27日

人工智能助逝者“归来” 慰藉哀思也有风险

清明节快到了,人们陆续开始祭扫,缅怀逝去的亲人。今年以来,有不少利用AI“复活”逝者的新闻引起人们的关注,网络上也出现了一批提供AI“复活”服务的商家,从“能活动的照片”到“可以进行对话”应有尽有,这项服务显然很有市场。

用AI“复活”已故亲人,可以抚慰人心,填补或缓释遗憾,是技术向善的例子。然而当技术驱动了生意,从法律、伦理、道德到心理,有多少边界需要约束?

调查

“AI复活”成生意

按客户具体要求收费

记者在某电商平台搜索“AI复活亲人”,发现不少商家提供此类服务,价格在十几元到几百元不等。

“只需要提供一张正面半身照,就能让嘴巴眼睛动起来。”在一家网店内,商品首页展示着这样的标语,还有一段视频,展示着AI技术“复活”老人的样品,视频的底版是一张老人的正面照片,老人的嘴在说话,头也跟着轻微晃动,虽然画面略微生硬,但跟真人动作还是相似的。

记者咨询网店客服,她告诉记者,此类是定制服务,可根据客户的具体要求制作视频,不同要求的价格不一样。该客服表示,首先要提供一张人物的正面照片,同时告知所需视频的具体时长。声音有两种形式,如果是固定音色的普通话,30秒内的视频约80个字,收费160元,每增加30秒再加60元。如果客户对声音有要求,要还原逝者的原声,需提供至少20分钟高质量无杂音的音频做声音采集,再完成原声模拟。原声的质量也取决于音频的长短,30秒内的视频,配原声的价格为560元,之后每增加30秒再加260元。

虽然这家网店的商品首页标明“只做逝者的怀念”,但是当记者随意发送一张照片后,商家也没有进行核实。

随后,记者又咨询了另一家网店,客服表示只需要提供一张正脸照片以及一分钟音频文件,即可让亲人“开口说话”,价格最低只要15元。

在店铺的评论区,记者看到部分买家这样评论:“做得太好了,听见亲人的声音,泪流满面,万分感谢。”“方言还是不太像,但是已经很好了,对家人是很大的慰藉。”“谢谢卖家,让我们以后的日子里又能看见亲人了。”“能再看到奶奶,真好!”

记者了解到,电商平台上大多数店铺的AI“复活”服务可以“让照片动起来”,但不能让定制者与之“聊天”。记者从网上了解到,如果想实现聊天功能,则需要通过收集尽可能多的照片和影像资料,建立面部模型,用声音样本进行模拟训练等各种复杂的技术操作,每单收费5000元至10000元。

声音

“数字永生”缓解丧亲之痛

精神安慰还是“精神鸦片”

有网友认为,AI技术“复活”亲人,对生者来说可以抚慰心灵,填补或缓释很多遗憾,这样的需求显然很有市场。对已故亲人来说,AI技术也可以让他们以更立体的方式被“保存”下来,让生者可以随时回忆和感受亲人的存在。“这是AI,也是爱,这才是AI存在的意义!”网友小王说。“要是真的话,我好想‘复活’我爸,他离开十多年了,以前没有智能手机,一段影像都没留下,只有几张照片。”不少网友表示自己也想“复活”亲人。

“其实‘复活’亲人,并不是希望他永远不离开我们。当初我们来不及和亲人好好告别,现在可以通过AI技术正式和他说再见,弥补人生留下的遗憾。”网友小朱说。

也有部分网友认为,故人已去,执着于具象的东西反而会让亲人再一次遭受伤害。“活着的人一直沉浸在过去走不出来也不好,‘数字永生’到底是精神安慰还是‘精神鸦片’?这真值得深思。”网友丽丽说,虚拟毕竟不是现实,“我会对着妈妈的照片、视频怀念她,但我不会用人工智能去‘复活’亲人,人类的爱机器是不能复制的。”

一些网友也提出了自己的担忧,比如有人可能利用AI技术“复活”一些有影响力的人物,进行虚假的宣传或诱导,影响公众的判断和选择;有人可能利用AI技术“复活”一些亲友,进行诈骗或勒索,侵害他人的财产和利益;有人可能利用AI技术“复活”敌人,进行威胁或报复,危害他人的安全和生命。“这项技术带来了伦理和法律上的挑战,需要我们在享受科技带来便利的同时,关注潜在的风险。社会各界要共同探讨和制定相应的规则和标准,以确保这项技术的发展能够在尊重伦理道德的前提下,更好地服务于人类的情感和生活。”网友阿白说。

--> 2024-03-27 3 3 东南早报 content_74427.html 1 人工智能助逝者“归来” 慰藉哀思也有风险 /enpproperty-->