律师
平台和商家责任大
要保证客户不侵权
北京天驰君泰（泉州）律师事务所庄灵煜律师认为，AI“复活”已故亲人的服务虽然在一定程度上给亲属提供了精神慰藉，但是背后涉及隐私保护、数据安全、平台监管等法律问题。
庄灵煜介绍，目前我国尚未就人工智能领域进行专项立法，但该服务仍应在法律允许范围内，不得损害他人合法权益，不得违反公序良俗。
从商家角度看，如果其未经死者配偶、子女、父母同意或授权，自行通过AI手段再现死者形象，并将死者肖像用于商业用途或存在损害死者形象的行为，可能构成侵犯他人肖像权、名誉权等，死者近亲属有权要求商家承担民事责任。商家应做好数据安全保障措施，避免因泄露用户提供的照片、视频、音频等素材而侵害他人的隐私权。
从平台角度看，平台应严格审查商家提供服务的资质，制定明确的准入规则，采取必要的监管措施，并接受相关部门的监督与管理。
最后，如果利用AI技术制作虚假图像、音频、视频等进行诈骗，或窃取个人信息牟取不法利益或存在其他犯罪行为的，还将承担相应的刑事责任。
案例
泉州女子接绑匪来电 竟是AI拟声诈骗
AI技术的应用范围越来越广，但存在滥用之嫌，甚至有人利用AI换脸、拟声来实施诈骗。去年，丰泽的张女士就遭遇到AI拟声诈骗。
去年10月14日14时许，张女士接到在外地工作的“女儿”来电。“女儿”哭哭啼啼，说自己被人绑架了，要张女士向绑匪的账户中转50万元赎金，否则绑匪要撕票。来电号码确实是女儿的号码，声音也是女儿的声音，电话那头传来哭喊声：“妈妈，救我！”张女士一下子慌了神。通话结束后，张女士又拨打了女儿的电话，但一直未能接通。又慌又急的张女士赶紧筹集资金，先往对方提供的账户汇款2.4万元。此时，泉州市、丰泽区两级反诈骗中心紧急发布预警指令给丰泽派出所。当张女士又要将她卡上剩余的11万元转出时，民警赶到张女士家门口。但她已把门反锁，民警急忙让她的丈夫开门，见她正在操作转账，民警立刻上前制止并告诉她遇到电信网络诈骗了。张女士将信将疑地暂停转账，民警迅速联系张女士女儿的好友前往其住处了解情况。经核实，张女士的女儿正在午休，并没有被绑架。原来，诈骗分子利用虚拟号码伪装成张女士女儿的电话号码，用AI合成的方式模拟张女士女儿的声音实施诈骗。
此前，福州市某科技公司法人代表郭先生10分钟内被骗走430万元，也是一起使用智能AI技术进行电信诈骗的案件。郭先生的好友通过微信视频联系他，自称在外地竞标，需要430万元保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万元转到好友的银行卡上。过后，郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。
据介绍，利用AI新型技术实施诈骗，不法分子通常先以“网店客服”“营销推广”“招聘兼职”“婚恋交友”等为借口，通过微信、QQ、电话等方式联系受害者，采集发音、语句或面部信息，再利用AI拟声、换脸等技术合成虚假音频、视频、图像，以借钱、投资、紧急救助等借口诱导受害者的亲友转账汇款，或提供银行账户密码等敏感信息，随后立即转移资金。此外，不法分子还可能对明星、专家、官员等音视频进行人工合成，假借其身份传播虚假消息，从而实现诈骗目的。
部门
AI技术存在滥用风险
记者了解到，由国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》自2023年1月10日起施行。《规定》明确，提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能服务的，应当进行显著标识。深度合成服务治理需要政府、企业、社会、网民等多方主体共同参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展，维护网络空间良好生态。
国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行。国家网信办表示，出台《办法》既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。
近期，也有平台发布了“关于人工智能生成内容的平台规范暨行业倡议”，明确禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等，一经发现，平台将严格处罚。
警惕三类AI骗局
AI骗局主要有三类。1.AI换脸。人脸效果更易取得对方信任，骗子用AI技术换脸，可以伪装成任何人，再通过视频方式进行信息确认。2.声音合成。骗子通过骚扰电话等方式，录音提取某人的声音，并对素材进行合成，用伪造的声音实施诈骗。3.转发微信语音。骗子在盗取微信号后，向微信好友提出转账要求，尽管微信没有语音转发功能，但他们可以通过提取语音文件或安装非官方版本（插件）实现语音转发，进而骗取钱财。
那么，如何防止上当受骗呢？首先，要多重验证，提高安全意识，涉及钱款时要通过电话+视频等多种方式确认对方是否为本人；汇款时，一定要确认对方提供账户的信息，确保是本人名下账户，避免通过微信等社交软件转账。其次，加强个人信息保护意识，不要轻易透露自己的身份证、银行卡、验证码等信息，不要轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等，以防止骗子利用AI技术掌握大量个人信息，从而有针对性地实施诈骗。最后，不轻易点击陌生人的短信链接，多提醒、告诫身边的亲友提高安全意识，拒绝诱惑，避免占便宜心理，警惕陌生人无端“献殷勤”。如不慎被骗或遇可疑情形，注意保护证据，立即拨打96110报警。