9月15日在“2025年广州市网络安全宣传周启动仪式”上，来自中山大学、华南理工大学、暨南大学、广州大学、广东外语外贸大学的5所高校网络安全领域或者人工智能产业研究专家，围绕“AI+”发展创新与安全治理热门话题，上演了一场高端的“院长对话”。在专家看来，AI应用边界持续拓展，安全防线的构建也迫在眉睫。

“AI智能体已走入千家万户，可能过一段时间会比手机离大家更近。随着AI融入人们生活，人工智能安全必将成为一个极其重要的研究方向。”中山大学网络空间安全学院院长操晓春教授指出，当前AI领域需重点关注三类风险：一是AI智能体输出正确性与价值观问题，关系到用户认知与社会稳定，必须推进全生命周期的安全评估与治理；二是智能无人系统与物理领域安全问题。AI已从数字空间延伸至物理世界，其决策透明性与可解释性成为关键。不仅要关注“结果正确”，更要追求“原因正确”。三是AI生成内容的安全隐忧，需加强审核、溯源、风险预警等。

医疗领域作为AI应用的重要场景之一，琶洲实验室智慧医疗与AI病理联合研发中心执行副主任、华南理工大学计算机科学与工程学院副院长张通教授表示，“大模型在医疗产品中的应用面临与传统研究领域不同的挑战，主要包括数据来源、数据采集、范式创新和部署安全等四个方面闭环治理。”他指出，应采用数据脱敏、权限分级管理、联邦学习、云边协同等先进的技术手段，减少对原始数据的依赖，实现“数据留在医院、算法跑在云端、参数交互共享”，并通过全流程审计机制筑牢安全防线，实现真正意义的科技向善。

暨南大学智能科学与工程学院/人工智能产业学院副院长施政则聚焦AI跨界融合。他认为，“AI在各行各业及不同学科间发挥着催化剂和粘合剂的作用。”例如，在智能制造领域，AI与数字孪生技术、物联网技术结合，可实现工厂数字化建模、自动化巡检等；在智慧教育领域，大模型助力试卷自动批改，通过构建学生能力图谱，定制个性化学习方案；在智慧旅游领域，三维实景与VR、大模型技术融合，既能为低空飞行提供安全保障，也能升级游客沉浸式体验。

广州大学网络空间安全学院/网络空间先进技术研究院副院长、教授王乐从网络攻防实战角度出发，指出AI的介入使网络安全风险从信息域延伸至物理域，攻击方借助AI可更快发现漏洞，实施攻击，防御方也需依托AI提升分析、威胁识别效率，但同时也加剧了攻防双方的不对称性。针对这一挑战，他表示：“我们要拥抱AI，把AI在网络安全中的应用或赋能发挥得更好。更关键的是让政府、企业、行业、高校、研究所等多方联动起来，真正做到从情报源头监测到资源共享。”

广东外语外贸大学信息科学与技术学院（网络空间安全学院）副院长、教授谢柏林从网络安全竞赛与攻防演练的角度给出破题思路。他认为，当前AI智能体虽理论知识丰富，甚至超越资深从业者，但在实际解决问题方面仍有许多不足。“解决这一问题的关键，是让AI智能体‘下场参赛’。”他建议，通过举办网络安全竞赛，邀请AI智能体以攻方或守方身份参与，在实战中暴露不足、迭代优化，提高解决实际问题的能力，真正把AI应用到网络安全行业。

活动现场，与会嘉宾们还从AI赋能、技术应用等多维度，为十五运会和残特奥会网络安全保障体系建言献策。广州市网络安全产业促进会、广州互联网协会秘书长章江花在接受南都采访时表示，网络安全是动态防御而非静态工程，需构建“魔高一尺，道高一丈”的持续对抗能力，产业协同与生态联防是应对新型威胁的关键。

此次活动由广州市委宣传部、市委网信办、市教育局、市工业和信息化局、市公安局、市文化广电旅游局、市国资委、市政务服务和数据管理局、市总工会、团市委、市妇联、中国人民银行广东省分行联合主办，南方都市报社、南都大数据研究院承办，广州市网络安全产业促进会、广州互联网协会支持。

出品：南都大数据研究院

统筹：凌慧珊 袁炯贤

采写：南都研究员 麦洁莹

设计：林泳希