环球时报

“我的两位同事在接受一次电视台采访后，同时收到换脸敲诈信息，当前犯罪分子利用人工智能（AI）深度伪造技术敲诈勒索已经形成高度流程化作业体系。”全国政协委员，安天科技集团董事长、首席架构师肖新光日前接受《环球时报》采访时表示，需构建一个更强有力的治理体系。

一个真实案例引发思考

作为网络安全领域的专家，肖新光尤其感受到今年AI话题的热度，“我所在的团青界别有多位委员都是来自人工智能、先进制造、生物材料等领域，都是AI相关产业。我们不仅在小组讨论时要谈到AI领域的应用、安全与发展等议题，在餐厅吃饭时大家也会聊到AI在实践中的应用。”

肖新光讲述的一个真实案例引起大家的高度关注。“2025年，我有两位同事，同时收到换脸敲诈信息。”凭着职业敏感性，肖新光与同事们立即进行追溯，原来这两位同事都参加了一档电视台节目的采访。“诈骗团伙的作案手段是跟进各种新闻节目，采集人员信息，寻找人员联系方式，制造伪造内容，发送敲诈信息。其作案模式已经高度流程化。”

肖新光表示，如今的AI技术，仅需一张照片、一小段语音，就能生成足以乱真的视频。以AI换脸、声音克隆等方式，假冒明星、主持人、企业家等公众人物，发布不实言论，借此赚取流量甚至违法犯罪的事件时有发生。对此，肖新光表示，公众人物有大量公开的视频、音频等公开素材，这些素材都可能被犯罪分子滥用，成为深度伪造的数据源。

“类似的侵权、侵害行为，已经不是靠个人的安全意识和习惯能解决的问题，应对核心是构建一个更强有力的治理体系。”肖新光表示。

越来越多的公开报道显示，现实生活中对一般侵权仿冒甚至是违法犯罪行为，绝大部分是靠遭到侵害的自然人通过向平台投诉进行权益主张。“这种权益主张往往只能针对具体的侵害信息进行投诉，并不能向平台整体提出全面保护自身肖像权和隐私的主张。在这个过程中，平台拥有很大的裁量权，个人维权成本较高。”肖新光分析说，有不少案例，被假冒者根本不知道发生假冒，最终不了了之。

对于AI“造假”事件，肖新光建议，相关立法、执法和主管部门应将相关问题从一个技术风险视角+平台自治逻辑，提升到公共安全视角，建立起更系统的治理能力和技术体系。此外，我们在打击各类违法犯罪行为方面都已有比较成熟的立法，可以考虑通过司法解释和案例，对借助人工智能辅助实施各种违法犯罪的行为，给予加重处罚的导向。

“数字主权”已是国家安全不可分割的部分

英国《金融时报》2月27日披露美国五角大楼正计划联合顶尖AI企业，开发AI网络工具，用于侦察、定位中国电网等关键设施与网络的漏洞，为未来可能的军事冲突做网络战准备。

对对手的军事和情报利用，在美方的AI相关应用中排名靠前，因此美方将推动人工智能武器化作为其推进网络空间军事化的重点。肖新光分析说，“把人工智能运用到情报分析和网络入侵攻击等场景中，是美方投入的优先选项，包括用人工智能自动挖掘对手脆弱性和可攻击点、自动编写恶意代码等攻击武器、针对性生成社会工程学欺骗内容、自动化编排攻击战术、自动化进行任务管理等。”

据专家介绍，当今世界大国的电力基础设施规模庞大，新能源基础设施占比也在不断提升，其运行高度依赖于网络信息系统，有大量的智能化调度管理环节，美方可以利用人工智能体系，全面、快速关联分析相关基础设施的海量信息，发现定位关键问题，寻找可打击的关键节点。

肖新光认同，“数字主权”已经和领土主权一样，成为现代国家安全不可分割的部分。他表示，在AI技术发展领域，要坚定地以技术管技术、以能力对能力，以AI赋能防御，应对对手的AI赋能攻击。在可靠的感知、检测、采集、响应手段支撑下，AI技术能有效降低防御者的身心负担，实现高水平自动化的防御和响应。

建议打造“人工智能+”国家安全技术引擎

今年的政府工作报告提出“打造智能经济新形态”，这是政府工作报告中首次出现这一提法。新的发展范式也需要新的安全范式。

肖新光表示，通过过去十多年的发展，我国网络安全形成了一个门类齐全的产业体系。是除美国以外，实现全赛道产品自主的国家，为国家安全奠定了极为难得的产业和能力基础。与此同时，我国还存在一些发展薄弱环节。

为了顺应新的发展形势，肖新光今年也提交了新的建议：打造“人工智能+”国家安全技术引擎，在“十五五”期间更好地探索和推动新的安全范式。“比如，针对智能汽车、具身智能等场景打造包括端侧安全大模型在内的专属安全引擎和安全功能积木，升级安全运营平台，提升安全对抗能力，让安全能力实现‘关口前移、防患于未然’。”