03

防止技术滥用 让AI向善发展 2025年10月27日

□郑运钟

近日,公安部门在“净网—2025”专项工作中成功侦破一起非法“查档”并开具虚假证明材料的案件,一举抓获犯罪嫌疑人5名,现场查获一批公民个人信息及虚假户籍证明材料。此案的侦破,也斩断一条集利用AI技术伪造、变造国家机关公文、印章的黑色产业链,有力维护了人民群众个人信息安全。(据10月22日《人民日报》客户端)

这并非个案,而是AI技术被利用于违法犯罪的一个缩影:当央视知名主持人的形象被AI伪造用于虚假带货,当“非遗传承人”身份连同相关证书皆由AI生成,当AI技术用于伪造证件用以骗取网贷——这项给人们工作生活带来便利的新技术,也逐渐成为犯罪分子牟取暴利的工具,并催生出新型犯罪形态。

究其原因,不外乎技术滥用与利益驱动。一方面,随着AI技术的快速发展与普及,各类AI工具在网络上可轻易获取,并无需专业技术即可方便生成高度逼真的假文件、假视频、假声音。另一方面,在利益驱动之下,催生了一条条灰色产业链,如:一些企业或个人为规避合规审查、获取非法利益,对假证明、假资质文件等存在“刚需”,造就了“需求—供给—获利”的完整产业链条,一些查获的案件中,甚至出现提供“法律咨询服务”的中介,足见这一灰色产业链分工之细致。

更不容忽视的是,新型犯罪凸显了监管的滞后。随着AI技术的不断迭代升级,使得传统的人工审核、肉眼识别难以有效甄别,而针对AI假证、AI诈骗的监管技术与制度尚未完全成熟,给了违法分子可乘之机。

无疑,整治AI新型犯罪,已成当务之急。这绝非某个单一部门的职责,而是一项系统工程,需要法律制度等顶层设计的跟进,也需要监管、平台与公众形成合力。

首先要完善法律体系,拧紧“制度螺丝”。既要加快立法步伐,明确AI生成虚假文件、伪造内容等违法行为的法律责任,细化量刑标准,解决取证难题。同时,针对新型犯罪开展专项打击行动,依法从重惩处,遏制犯罪冲动。显然,AI技术的快速迭代让监管长期面临“滞后性”难题——当造假手段不断升级,如何让制度与执法始终跑在技术滥用前面,将是永恒的课题。

其次要规范技术使用,完善“技术伦理”。从技术上,“以AI反AI”是当前最有效的防御手段,应通过技术创新,研发诸如“深度伪造鉴别模型”等反制技术,识别AI造假内容;在源头上,还应加强对AI生成工具的源头监管,建立工具开发者的责任追溯机制,要求工具提供方设置“身份验证”“用途审核”等门槛,防止工具被用于违法犯罪。

最后要推动多方协同,织密“治理网络”。政府部门应加强跨区域、跨部门协作,建立公安、市场监管等部门的信息共享与联动机制;互联网企业须履行主体责任,加强平台内AI工具的管理与内容审核;公众则需提升风险防范意识,多一份警惕、少一份轻信,不仅能避免自身权益受损,更能减少虚假信息的传播空间,避免成为受害者或“帮凶”。

说到底,AI可以极大提升人类的能力,却无法提升人类的智慧,甚至还会导致个别人滥用技术、走向犯罪道路。新犯罪形态的出现警示我们,要防止技术滥用,就必须实现监管不缺位、平台不纵容、技术有防御、公众有警惕,多方合力推动技术向善发展,让AI更好地造福于人类。