“AI新治向”重磅报告首发、实验“AI造假”路人反应、专家献策“AI谣言”治理、脱口秀抛梗“AI新生活”……9月12日下午，以“规范AI内容 共筑清朗生态”为主题的外滩大会见解论坛在上海举办。论坛汇聚AI治理专家学者、企业精英、青年学子及青少年代表，围绕人工智能生成合成内容及传播过程中的风险挑战议题深入探讨。据悉，本次论坛由南方都市报社、南都大数据研究院、中国互联网协会人工智能工作委员会、复旦大学传播与国家治理研究中心主办。

“规范AI内容 共筑清朗生态”外滩大会见解论坛现场。

多元协同共筑清朗生态 最新报告聚焦AI风险治理

活动现场，本次活动的主办方代表、南方都市报社主编刘江涛致辞表示，AI已经渗入日常生活当中，未来还将从根本上改变诸多方面，但社会也需要形成共识，要对AI保持一份足够的清醒，按照国家的相关要求确保人工智能安全、可靠、可控。南都愿意做“铺路石”，或是“吹哨者”，与多方协力共建智慧交流平台。

南方都市报社主编刘江涛发表致辞

中国互联网协会人工智能工作委员会秘书长邓凯在致辞时指出，应对AI内容治理挑战可从三方面着力：一是强化标准与技术治理，加快研制AI内容识别、溯源等相关标准规范，推广数字水印、内容标识等技术；二是推动多元协同共治，构建政府、企业、协会等多方协同治理机制，促进信息共享与规则共建；三是践行科技向善，将社会责任与伦理要求置于技术发展的重要位置，重点保护未成年人等特殊群体，让AI发展更有温度、更负责任。

中国互联网协会人工智能工作委员会秘书长邓凯发表致辞

生成式人工智能在飞速发展的同时，也催生了AI谣言传播、隐私安全等新型风险，成为全社会关注的焦点。本次活动上，南都大数据研究院编制发布了《AI新治向：生成式人工智能内容与传播风险观察》报告。据悉，去年至今，南都大数据研究院持续开展“AI新治向”系列课题研究，聚焦内容生态、算法伦理、个人信息保护、未成年人保护等关键议题，努力为AI安全发展提供扎实的调研支撑和决策参考。该报告依托南都大数据研究院近一年来对百起风险事件的调查、数千份问卷调研及多轮社会实验为基础，尝试揭示生成式AI伴生的多类风险，解析AI虚假内容传播链，并提出“多措并举，多元共治”治理建议，让AI安全为发展输送动力。

值得一提的是，报告还通过街头实验与问卷调查，以AI假新闻为例深度解析其背后传播机制。数据显示，76.5%的受访者表示曾多次遇到AI假新闻。

南都大数据研究院发布《AI新治向：生成式人工智能内容与传播风险观察》。

传播、技术、法规、实践 专家支招AI内容治理

本次旨在搭建横跨产学研媒的智慧交流平台，探寻治理破解之道，凝聚“技术可控、法规明晰、传播可信、共治有效”的行业共识。论坛现场，来自高校、机构、企业的专家，围绕传播、技术、法规、实践等核心议题展开主旨演讲，以专业的视角拆解AI内容治理的难点与破局路径。

“专业报道在AI内容的冲击下面临困境”，复旦大学新闻学院教授、传播与国家治理研究中心主任张志安指出，去中心化伴随信息质量参差，谣言与深度伪造（deepfake）内容泛滥，新闻生态呈现“多中心但无序”的复杂样态，他认为需要以“生态”视角来动态推进治理路径。

复旦大学新闻学院教授、传播与国家治理研究中心主任张志安作主旨演讲。

复旦大学计算与智能创新学院教授、白泽智能团队负责人张谧聚焦大模型安全治理，其认为“大模型安全”指代两方面：大模型自身的安全问题和以大模型为中心的全环节的安全。据介绍，其团队开发的JADE大模型安全风险分析治理平台已实现文本、多模态、文生图、长推理模型和Agent安全等多个维度的风险与分析全面覆盖。

复旦大学计算与智能创新学院教授、白泽智能团队负责人张谧作主旨演讲。

中国社会科学院大学互联网法治研究中心主任、副教授刘晓春带来了对AI时代未成年人保护的理念变化思考，她提出了“调控型保护”的概念，并从身份识别、风险防范、发展促进、家长赋能四方面进行了详细解读。

中国社会科学院大学互联网法治研究中心主任、副教授刘晓春作主旨演讲。

9月1日，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》及强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》正式施行，明确所有AI生成的文字、图片、视频等内容都要“亮明身份”，标志着我国在生成式人工智能领域迈出了构建安全可信生态的关键一步。活动现场，中国电子技术标准化研究院网络安全研究中心、人工智能安全标准研究员张妍婷围绕《标识办法》与《标识方法》的内容、价值与标识工作的落地推广展开了分享解读。

中国电子技术标准化研究院网络安全研究中心、人工智能安全标准研究员张妍婷作主旨演讲。

作为企业代表，蚂蚁数科AI科技产品总监鲁玮分享了AI安全防御技术思考与实践。据悉，针对AI伪造人脸、凭证伪造、AI内容幻觉等场景，蚂蚁数科技术团队已推出多项解决方案。如蚂蚁天玑实验室自研的智能测评技术已广泛用于金融机构、手机终端的评估；“光鉴智能验真”产品为物理世界中的票据、身份凭证提供防伪保障；在防御幻觉层面，大模型安全解决方案“蚁天鉴”已经针对大模型业务场景中提问、回答的交互模式，构建了一套多层防御护栏方案。

蚂蚁数科AI科技产品总监鲁玮作主旨演讲。

Talk Show趣绘AI日常 AI歌曲寄望安全未来

活动的“Talk Show”舞台上，复旦校园喜剧达人以“被AI硬控的一天”为主题开讲，用青春视角解锁科技与生活的碰撞。萌趣十足的小学生分享了自己“小脑袋里的AI梦”，用天马行空的想象勾勒出心目中的未来AI世界图景。论坛“AI安全倡议”环节，一首由AI独立创作演唱的歌曲《AI的期待》，伴随着轻柔旋律，传递出对法规、技术、伦理守护AI安全的寄望。

据了解，“2025 Inclusion·外滩大会”于9月10-13日在上海黄浦世博园区举行。本届外滩大会以“重塑创新增长”为主题，设置1场主论坛、44场见解论坛，打造了创新者舞台、投资人Meetup、科技创新赛、科技招聘会等特色活动。

出品：南都大数据研究院

监制：戎明昌 刘江涛

策划：王卫国 邹莹

统筹：凌慧珊 张雨亭 关健明

采写：南都N视频记者 张雨亭 陈袁 谢小清

麦洁莹 罗韵 见习记者 张文嘉 实习生 朱恺熙

设计：郭文哲 张许君 欧阳静 原毅 罗锐 邹思曼 林泳希 何欣 尹洁琳