当人工智能大模型存在安全隐患，可根据用户指令生成包含丑化亵渎军队和军人形象、违背军服穿着规范等内容的图片时，徐汇检察官出手了。不仅通过行政公益诉讼立案，促使涉案企业对已生成的违规图片进行溯源清理，还同步上线涉军规范示例34条、形象提示词等28个描述策略，并进一步细化管控规则，构建全流程管控体系，健全AI生成合成内容审核机制，强化语料清洗与权威数据赋能，实现对相关提示词的有效识别与拦截。在昨天举行的“聚焦建设‘五个中心’检察在行动”上海检察系列新闻发布会上，徐汇区检察院党组书记、代理检察长孙军表示，面对人工智能时代的到来，徐汇区检察院积极探索检察综合履职护航人工智能高地建设的新路径，确保人工智能安全、可靠、可控。

2023年以来，徐汇区检察院成立“检互·西岸”检察服务平台，依法维护辖区内创新主体的合法权益，强化数字经济、人工智能等新兴产业知识产权保护力度，已惩治涉计算机信息系统、侵犯知识产权类犯罪181件。2025年，围绕徐汇区加快建成全国人工智能高地“十大行动”，徐汇区检察院紧扣服务保障人工智能“安全、可靠、可控”目标，又跨部门组建人工智能综合履职团队，出台《服务保障人工智能产业发展三年行动方案》，部署18项责任项目，着眼新类型犯罪治理、知识产权全链条保护、企业全生命周期服务，通过“项目化推进、清单式管理”，为培育和发展人工智能产业蓄势赋能。

基于徐汇区创新企业集聚的区位特点，徐汇区检察院在检察履职中坚持“治罪”与“治理”并重，结合办案，联合区公安分局探索制定《生成式人工智能刑事案件电子数据取证与审查指引》，为涉人工智能案件的证据审查提供了参考样本。徐汇区检察院还充分发挥“四大检察”融合作用，一体推进人工智能检察综合履职，积极构建多方共治的“AI治理生态圈”，会同徐汇区委网信办、新工办（经委）、科委等8家单位共同签署《加强人工智能协同治理工作协议》，建立对口联系、案件研商、送法入企、专家咨询四项常态化工作机制；与区委网信办牵头成立“人工智能协同治理工作站”，聚焦司法行政联动、系统监管模式构建及多元治理生态优化三大任务，实现从“事后惩治”到“源头防护”的敏捷治理。。

近几年来，徐汇区检察院已办理多起具有典型意义的涉人工智能案例。例如，在一起案件中，国内某知名网络科技公司高层技术人员结伙，利用“黑客”技术入侵虚拟货币钱包服务器转移虚拟货币，通过转卖获取违法所得250余万元，另还有69万余个泰达币尚未出售变现。这是一起具有技术专业性、手段隐蔽性等特点的案件，对司法机关提出了专业化办案的新挑战。对此，徐汇区检察院提前介入引导侦查，加强币链追踪、链上交易溯源和匿名身份穿透，准确认定链上钱包地址归属与现实身份的同一性，明确虚拟货币财产价值认定路径，对未变现的虚拟货币作为量刑情节予以考虑，从而构建完整的证据锁链，准确犯罪行为定性，有力指控犯罪。经徐汇区检察院提起公诉，法院判决两名昔日的科技人才犯盗窃罪，分别被判处有期徒刑10年6个月、10年，并处罚金30万元。

案后，徐汇区检察院与徐汇区公安分局会签《涉刑事诉讼虚拟货币处置规范指引》，对办理虚拟货币案件中涉及的查询固证、扣押保管、移送处置等全过程、各环节进行了更为细致、明确的规定，为依法处置涉案虚拟货币提供具体指南。同时，针对该类犯罪案件反映的犯罪嫌疑人年轻化，在网络安全从业领域高发的趋势特点，强化源头治理，徐汇区检察院又联合多部门，就网络安全防范教育等普遍性问题制发社会治理检察建议，引导行业提升员工遵法守法意识，维护网络空间安全清朗，加大对科技创新的法治供给力度。

原标题：《当人工智能大模型生成丑化亵渎军队、违背军服穿着规范的图片，检察官出手了》

栏目编辑：顾莹颖

本文作者：新民晚报 孙云