为加强理论联系实际，更好发挥主流媒体舆论引导力，解放日报·上观新闻、“学习强国”上海学习平台联合相关单位推出“思响上海”项目，旨在通过举办接地气的活动，讨论冒热气的议题，让党的创新理论更好地飞入寻常百姓家。

7月29日，“思响上海”第二期活动走进张江“模力社区”，以“人工智能，请回答”为主题邀请青年企业家、科研人员和专家学者，共同探讨人工智能产业发展、治理等热点问题。“思想汇”今天推出现场实录，以飨读者。

复旦大学类脑智能科学与技术研究院副研究员曹淼：当前人工智能正从实验室研发加速迈向产业化落地阶段。在这一进程中，需以脑科学与AI的深度交叉为核心驱动力：既要依托如千亿级神经元模拟计算平台的类脑智能平台，解析大脑功能机制，利用AI破解神经发育、老年痴呆等疾病的风险因素，推动技术向民生领域转化，又要强化基础研究与产业化的衔接，服务“一老一小”等痛点。

同时，因为脑科学与AI的融合涉及生物学、数学、信息科学等多学科，在学科建设上需聚焦复合型人才培育。只有兼具跨学科素养的人才，才能破解智能本质的核心问题，助力构建突破传统架构的神经计算体系，在全球智能技术竞争中占据主动。

绘话智能联合创始人兰飞：在人工智能领域，技术迭代以近乎颠覆性的速度推进，这既带来了前所未有的挑战，也激发着团队持续创新的热情。现在AI大模型可以探索在适老化设计和主动式关怀等方面为人类提供帮助，在我国进入中度老龄化社会的背景下为社会和家庭减轻养老压力，寻求人工智能在日常生活中的应用价值。

“陪伴经济”正因为有了AI的介入，有望不再只是亲情的补充，正在变成科技服务、内容供给、产品形态共同发力的新赛道。年轻开发者们面对各种新技术的随时出现，要时刻保持学习状态，要学会适应这种快节奏的技术更新和融合效应，从而推动产品体验不断升级。

科技从业者：张江目前正在打造世界级脑机接口产业聚集区，有消息称衍生科技将在年底推出首款非侵入式商业化大脑调控产品。请问，未来如何在主导能力与心智隐私之间划定伦理边界？另外，脑电数据的所有权应该归属于用户还是企业？

金耀辉（上海交通大学人工智能研究院教授）：这个问题非常好。我想先问一下，你有没有先通过大模型了解过相关信息？现在工作方式要发生变化了（现场笑声）。

就像我们刚才提到的，上海在这方面有很多举措，而数据是核心——脑机接口采集的本质都是数据。那么，数据归属权到底属于谁？这就像在医院，数据是归医院还是归患者？这是第一个值得探讨的点。

第二个点，我们有时候容易受科幻电影或美国科技案例（比如马斯克的Neuralink）影响，把技术想得太可怕。但实际上，目前采集的只是脑电信号，脑电信号不等于意识。这就好比在医院体检时采集的各种数据，本身不一定是隐私，但加上个人信息后就成了隐私。如果去掉个人标识，用来训练大模型其实是没问题的。

回到第一个问题，为什么上海适合做这件事？我在上海生活了30年，觉得上海人很讲规矩、重规则，这是优势。大概10年前，我就参与政府部门推动开放数据的相关工作，还和复旦的老师合作举办过上海Open Data Apps比赛，当时就强调政府要带头。现在我们又有隐私计算、联邦学习等技术保障，所以整体来看是好事。

毕竟，单靠一家企业（比如Neuralink或衍生科技）不可能完全解析人的意识，因为不现实。但如果有企业、政府共同协调，政府做背书和保障，老百姓会更放心，科技也能有序进步。

科技从业者：随着AI技术不断发展，未来在实际应用中，AI会不会产生自主思考能力？比如，我们给它设定一个目标程序，它有没有可能为了完成目标而改变自身路径？我们又该如何保证这一过程中的100%安全？

金耀辉：这确实又是个非常好的问题。不过这不仅是安全问题，更关乎“底线”。其实，如果你用大模型去问这个问题，可能也会得到类似的思路——它会不会“失控”？

不知道你是理工科还是文科背景？理工科做优化时特别强调“收敛”这个词：不管从哪个起点出发，最终都会导向预设的优化目标，这就是收敛。但机器学习算法本质是统计性的，可能存在千分之一甚至万分之一的概率出现意外结果，这是由技术特性决定的。

要解决这个问题，我觉得可以从“护栏”机制入手。现在所有AI模型其实都在这么做，具体有三个层面：第一个是输入护栏，如果输入的是乱七八糟、不合规的问题，模型根本不会回应；第二个是内部护栏，企业会在模型内部设置规则，这是企业的责任；第三个是输出护栏，在结果输出时再加一道审核关卡。

另外，日常应用中也有实用办法。我工作中大量使用AI，会同时用多个模型对比，直到多个模型结论一致，这也是一种保险方式。

总体来说，关键还是“初心”。如果出发点是好的，哪怕出了问题也会主动纠正；但如果人心本身是邪恶的，再完善的技术也能被用来做坏事。就像一把刀，本身不能杀人，但有人想用来伤人，就没办法了（听众纷纷点头）。

科技从业者：人工智能，它究竟是为谁而服务的？如何确保其创造的利益能惠及大多数人，而非流向少数群体呢？

江天骄（复旦大学发展研究院副教授）：前半个问题，我以前还真问过好几个大模型。我问大模型“你到底为谁服务”，基本上它们都会给我标准答案，说“我们为用户服务”（笑声）。还有一些大模型会更完满一点，说“我们为合法使用我们的用户服务”。你们看，大模型求生欲很强啊（现场笑声）。

我现在发现，AI技术也开始思考所谓人的道德、法律等。当然，回到现实当中，我相信大家都会接受，实际上AI肯定是为我们每个个体服务的，包括我们的学习，还有刚才金老师说的工作，比如做PPT能提升很大效率；也为千行百业服务，包括情感慰藉类行业，还有智能医疗、金融、未来教育等，以及智慧城市建设等方方面面。

但是，普惠向善是理想中的目标，现实中因为技术本身的垄断，还有资本的逐利，有可能会出现你说的被少数人绑架的情况。面对这种情况，我有三条建议：第一条，我觉得还是要大力发展人工智能，技术普惠发展是非常重要的前提，如果技术本身垄断在少部分人手里，那就谈不上普惠了。比如DeepSeek出来之后，在国际上引起现象级反响，这很重要，未来我们在算力上也要做一些共享，降低使用门槛。

第二条，可能要给在座各位压担子了，因为你们都参与AI这个行业。模型开发方面，算法本身的透明度，包括更严格的第三方审计，其实非常重要，除非涉及核心机密，很多算法都应该让大家理解，要说明为什么会得出这样的结果，保障用户的知情权。这一点很多大厂都在做了，抖音、小红书等都有各种各样的举措，未来这会成为企业社会责任中非常重要的一环。

最后一条，政府要兜底，要画红线。我们以前经常开玩笑说，大家觉得谁最了解你？父母、老师、同学？其实是你手里的手机。因为点开任何一个软件，基本上你的情况大家就都知道了。这些科技企业收集了大量用户数据，配合智能算法，确实可能有很多逐利行为。所以政府要兜底，加强反垄断和公平竞争的监管。还有我们讲的数据安全法、个人隐私保护法，“三法一条例”体系一定要不断完善，对于有大数据杀熟等行为的企业要给予严惩。

补充一条，大家的数字素养也要提升，只有学会驾驭AI，同时能识别新的风险，才能避免你担心的问题（现场掌声）。

主持人：学校里面很早之前就在讨论，到底能不能用AI来写论文。想请两位分别聊一下，在实际教学过程中有没有学生用AI来写论文这种情况？该怎样来处理这样的事情？

金耀辉：我自己也参与了上海交通大学人工智能在教育教学中的规范制定，提了一些建议，其实是我和人工智能一起参与了对这个建议的探讨（现场笑声）。

其中第一条是分级分类，现在我们观察到很多情况，有的地方应该鼓励用AI，有的地方应该严格禁止。比如写作课到底该不该用AI？这就得分级分类，我们分了4级。还有，开学第一课的时候，我就跟学生讨论，大家认为这件事可以用还是不可以用，如果大家都同意不能用，那就都不能用，要是有谁用了就不行。

另外，因为人工智能有幻觉，生成的文献可能有问题，如果我抓到一条是AI生成的假文献，对不起，我有100%的理由处理这件事。

还有，我觉得咱们学生可能觉得用AI写论文不好意思、很羞耻，其实我想改变大家这种想法。我跟《解放日报》的编辑老师几次都强调，我在用人工智能，不怕大家知道，我光明正大地用，也光明正大地说这件事。现在很多事，我们都会借助人工智能来完成，在这个时候，AI就成了伙伴，关键是怎么用好它，体现出人的思想在哪里，这才是重要的（现场掌声）。

江天骄：在这一点上，我和金老师不谋而合。ChatGPT刚出来的时候，我觉得自己肯定马上要失业了，今天还能坐在这里，万幸（现场笑声）。

但我发现我的学生早就开始用智能工具写作了，一开始我还很较真，费劲地用肉眼去查找，感觉有些话读着通顺，但意思不对，肯定是AI写的。后来计算机系的老师帮我搞了个反向软件，说放进去一查就知道是不是AI写的。之后我就不挣扎了，开始鼓励学生必须用AI辅助写作，但不能直接生成一篇给我。

既然大家都用，我们就比谁用得好、谁用得更有创意，我觉得这才是拥抱AI的态度（现场掌声）。

既然大家都认为未来人工智能会普及，像水和电一样融入日常生活，我们从一开始就应该学会如何与AI相处，并且更好地运用它，所以在这一点上，我和金老师的想法是一致的。

科技从业者：张江目前人形机器人产业集聚显著，机器人运动控制等各项功能也在不断进步，但目前单台人形机器人成本居高。具身智能如何在未来突破“展示性应用”，实现规模化落地？

金耀辉：其实现在我们看到，让老百姓能感受到的展示性应用主要是一些家居类机器人，能完成的任务价值有限。但实际上真正实现规模化应用的路径还有很多，主要在于聚焦“价值场景”，实现单点突破。

第一个就是那些无聊的工作，比方说生产线上精细又枯燥的工作，这种你马上就可以用机器人来完成。第二个是危险的工作，比方说我们有很多老师跟国家电网合作，他要带电作业，或者在实验室里做一些化学实验，这些工作就可以让机器人去做。

刚刚绘话智能兰总介绍了老人陪伴产品。我父母也在上海，但跟我不在一起住，我现在还挺担心，如果说陪伴的机器人能做一些端茶倒水的事，又能跟他讲讲故事，我觉得这具备规模化运用的可能性。但是这里面风险也是巨大的，需要政府有一些兜底的行为。

科技从业者：我的问题其实是从前面的问题引发出来的。两位大学老师也是在使用一些AI工具的。你们的一些想法可能是来自人工智能，这些想法被传递给学生、传递给社会，那是否意味着人工智能是可以从思想上改变社会的？

江天骄：我没想到程序员有这么高的哲学层面的反思（现场笑声），非常好。我很想提出一个观点，其实AI时代需要更多的类似这样的交叉融合，不能以传统的学科做分界。做计算机、做模拟数据，尤其是做AI的一线人员，欢迎大家来复旦修哲学课（现场掌声）。

回到你的问题，其实刚才金老师已经举了很多很生动的例子，我稍微讲一讲我的理解，其实是讨论人和技术之间共生进化的关系。

我们可以回顾一下过去的发展历程。工业革命中蒸汽机取代马车，电力取代蒸汽机，也涌现了很多与技术发展相适应的思想，但是最终作为主体，人的能动性还是得到了充分体现。

所以从这个角度来说，我没有那么惧怕AI可能在思想上带来彻底、颠覆性的影响。西方可能会有一些末世论，但是如果你站在马克思主义的角度，生产关系的调整会适应生产力的发展，最终适应整个人的自由发展。

我觉得应该鼓励人如何更好地、创造性地适应技术带来的变革。它既有一些短期的冲击，但是长期来看也给我们带来很多机遇，关键是如何去捕捉到这些机遇，还有就是我们自我适应能力的提升。你要通过交叉学科以及全周期的不断学习，主动去适应AI时代的发展，这些可能是我比较想传递的一个信号。

科技从业者：人工智能在医疗、养老这些方面都提供了便利，因为它的一些高效表现，我们的政策也在提“智能化工厂”概念。但机器人在流水线上的高效表现可能也意味着某些岗位的消失。怎么看待这种取代和服务？

江天骄：实际上刚才聊的过程当中，我们已经举了很多例子，我稍微再补充一点。实际上我们是希望机器人更多去替代一些危险的工种，比如像危化品管理、矿井高危工作等，把人从里面解放出来，这不是完全取代，而是解放出来以后，人可以专门负责运维这些机器人，逐渐走向一些更高价值的工作岗位。

还有一些是替代不了的，比如看完情感陪伴的产品，很感动，但我同时觉得情感的连接不能完全由机器来取代。最打动我的是，我觉得我的父母还是需要我的，机器人其实应该更多给子女发送信号，提醒你有空多回去看看父母，这个是它有魅力、有价值的时刻（现场掌声）。

再有一些更高危、涉及重大利益的决策，我们更不能交给人工智能，国际上已经有共识，比如核武器的按钮不能放在人工智能手里。所以我可能也没有那么悲观。人和技术之间其实是一种共生进化的关系。

主持人：感谢大家的参与和互动。最后，请两位专家为我们本期活动做一下总结。

金耀辉：我觉得今天这样的形式非常好，把文科老师、理科老师聚在一起谈论。我始终觉得我们要做的事情就是利用AI来适应新的工作方式，包括今天所有的问题问AI，它可能会有更新更好的答案，只有观点产生碰撞，才可能引导大家更深入思考。

江天骄：我觉得“思响上海”这个活动让我大开眼界，能够走入“模力社区”，让我们来自高校的老师走出书斋，了解人工智能一线工作的实际发展状况，现场还提出非常有哲学深度的问题，这些都很好。人工智能时代我们需要有一些自我革命，不管是产业发展还是治理，我觉得大家都应该共同思考未来治理和伦理准则，以及如何更好地引导AI向善发展。

（整理人：牛益彤 朱玲珑 ）

原标题：《解·答｜人工智能，请回答》

栏目主编：王珍 文字编辑：王珍 邱艳灏 摄 编辑邮箱：shhgcsxh@163.com

作者：解放日报 牛益彤 朱玲珑