本报讯 11月4日,中国信息通信研究院(简称“中国信通院”)发文称,当日,2026年世界互联网大会乌镇峰会“智能体互信互联互操作全球合作创新——携手构建智能互联网论坛”正式发布了《智能体发展自律公约》(以下简称《自律公约》)。《自律公约》由中国信通院、华为、腾讯、蚂蚁、阿里、抖音等20家单位联合发起。
《自律公约》共提出八条自律措施,一是健全智能体信任体系,二是建设智能体互联基础设施,三是提升智能体互操作水平,四是提升智能体安全防护能力,五是健全智能体治理机制,六是保护智能体用户权益,七是加速智能体赋能千行百业,八是推动智能体技术普惠共享。
围绕公众对智能体安全风险、用户控制权等层面的担忧,《自律公约》都进行了直接回应。
针对智能体出事后的责任划分问题,《自律公约》第四条写明:“健全前瞻性风险评估、运行监测、行为管控、异常熔断等技术体系,努力保障模型、插件、技能来源可靠,共建风险信息共享与联合处置机制。持续防范人工智能内生缺陷与外部攻击引发智能体越权操作、隐私泄露乃至行为失控等安全风险,打造安全可控的产品服务。”
第五条则写明:“积极发展规则表达与内嵌、合规性测试等技术,确保智能体行为遵守法律法规、公序良俗,共同抵制利用智能体实施算法压榨、黑灰产等行为。持续构建健康向善的发展秩序,提升智能体融入经济社会体系的能力。”
就用户能否保有对智能体控制权的问题,《自律公约》也作出明确安排:要保障用户知情权、选择权和对重要事项的最终控制权,防范个人信息滥用、过度迎合、认知操纵,加强未成年人、老年人等特殊群体保护,培育用户健康使用素养。不断提升智能体公平性与可及性,保障用户在智能体时代平等享有发展权。(澎湃)