当前位置: 首页 » 资讯 » 新科技 » 正文

AI伪造冒充泛滥,冲击数字时代信任体系

IP属地 中国·北京 南方都市报 时间:2025-11-07 23:55:15


近日,有网友发现演员温峥嵘同时“现身”三个不同直播间,她身着不同服装推广着不同的产品,动作神态与本人高度相似。其实今年4月,温峥嵘就曾对此进行过声明和维权,但没能阻挡住网络盗播和AI冒充行为的泛滥。

AI滥用问题如今可谓泛滥成灾,公众人物的生物特征因高商业价值而成为优先侵权目标,但AI滥用早已突破“名人专属”的边界,形成了覆盖全人群的风险网络。宁夏警方破获的AI换脸诈骗案中,骗子通过实时换脸伪造亲友视频实施诈骗,让受害者防不胜防。更令人担忧的是,AI技术门槛持续降低,开源工具、消费级电脑即可完成实时换脸,甚至“一张照片就能生成动态视频”,使得侵权违法成本极低,而维权成本却居高不下。

AI深度伪造技术的泛滥,正在瓦解人类社会赖以存续的信任基础。AI合成的音视频的逼真度甚至让本人都难以分辨,“耳听为虚,眼见为实”的传统认知被彻底颠覆。这种信任危机早已超越个体权益范畴:消费者因AI虚假代言误购劣质产品,破坏市场诚信;“AI医疗误诊”等虚假信息误导公众决策,威胁生命健康;虚假视频甚至可能激化社会矛盾,动摇公共秩序……

“赛博温峥嵘”泛滥让温峥嵘陷入自证困局,维权陷入“封一个、冒一个”的拉锯战。这起看似公众人物专属的维权困境,实则是AI滥用向整个社会发出的信任危机预警——当技术门槛低至一部手机即可克隆人脸、合成声音,当“证明我是我”成为数字时代的荒诞命题,AI已从服务工具异化为潜在侵权利器,其危害正从公众人物蔓延至每一个普通人。

遏制AI滥用、重建信任体系,绝非单一主体能完成,需法律、平台、公众形成闭环治理,让技术回归服务本质。

法治是治理AI滥用的根本保障。尽管《人工智能生成合成内容标识办法》《深度合成管理规定》等法规已明确要求AI内容“亮明身份”,禁止未经授权使用生物特征信息,但仍需强化法律的刚性约束。一方面要细化追责条款,对AI伪造、传播侵权内容的行为提高违法成本,形成有效震慑;另一方面要完善证据规则,降低被侵权者的举证难度,明确平台与侵权者的连带责任,破解“维权难”困境。

平台作为AI内容传播的关键枢纽,必须压实主体责任,落实AI内容标识义务,让AI生成内容“自带身份证”,并建立全链条管控机制,对违规账号实施黑名单管理,追溯资金流向并移交执法线索,而非简单封号了事。还要加大技术研发投入,推广照片视频防伪技术,构建多因素身份认证体系,从源头遏制深度伪造风险。

面对AI滥用风险,公众需从“被动防御”转向“主动辨识”。普通人应增强个人信息保护意识,非必要不泄露人脸、声音等生物特征,学习基础辨伪技巧,遇到可疑内容时通过权威平台溯源核实,不做虚假信息的“二传手”。

技术本身并无善恶,AI的价值终究取决于人类的选择与约束。唯有以法律划红线、以技术筑防线、以素养强能力,才能遏制AI从“深度合成”沦为“深度伪造”。 □ 胡欣红

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。