当前位置: 首页 » 资讯 » 新科技 » 正文

红果被AI所困

IP属地 中国·北京 编辑:吴婷 壹娱观察 时间:2026-04-16 09:15:08
AI短剧的“负面效应”。

壹娱观察 大娱乐家

AI短剧在带来更大收益之前,引发的争议反而越来越大。

3月30日,一个只有几十个粉丝的汉服妆造博主白菜发现,自己发在小红书上的一组古装写真,出现在了红果短剧平台的AI短剧《桃花簪》里。不是被引用,不是被模仿,而是整张脸、整套妆造被直接喂给AI,生成了一个叫刘大的角色。

小红书截图

这个角色的设定是贪财好色的反派。

同一天,商业模特七海也发现自己的脸出现在同一部剧里,角色是满脸麻子、虐待动物的何掌柜。两个人此前从未授权任何机构使用自己的照片。

事件发酵后,红果在4月3日全面下架《桃花簪》,暂停出品方上传权限15天。三天后又发布治理公告:今年一季度,平台已累计下架违规漫剧1718部,专项核查1.5万部作品,处置违规作品670部。

在《桃花簪》之前,短剧利用AI偷脸的事故已经密集爆发。3月,肖战、杨紫、迪丽热巴、易烊千玺先后被曝出肖像遭AI短剧盗用。就在不久前北京互联网法院在迪丽热巴案中确立了可识别即侵权原则:只要AI生成的形象能让公众认出是特定的人,无论是否百分百复刻,都构成侵权。

社交媒体截图

但明星有工作室、有法务团队、有上热搜的能力。普通人呢?

白菜和七海能维权,是因为他们恰好有社交媒体账号可以发声。恐怕很多人尚不不知道自己的脸已经在某部AI短剧里出演了什么角色。

以红果为代表的短剧平台,所需要面对的问题,不是某几部剧的违规,而是它们一手推动的AI短剧浪潮正在反噬自身。

之于这个局面而言,有红果自己的主动选择,也有字节跳动AI战略的推波助澜。红果需要AI短剧创造新的叙事,然而最终它自己显然也困在这一叙事里。

01 隐患在更上游浮现

红果拥抱AI短剧,有非常现实的理由。

进入2026,红果日活突破1亿,月活近3亿。但日活过亿之后,核心任务已经从抢用户变成赚钱。

真人短剧的成本结构,越来越不适合一个以免费模式运营的平台。

一部稍微精致一点的真人短剧,成本动辄上百万。红果过去靠保底分账吸引制作方入驻,本质上是在用钱买内容供给。但撒出去的钱越来越多,换回来的却是大量同质化的低质内容,保底模式在财务上已经难以持续。

然而,有一个问题在于用来制作这些AI短剧的工具,从源头就带着隐患。

字节跳动在2026年春节前发布的Seedance 2.0,是AI短剧爆发的技术基础。它能根据文字、图片、视频、音频等多模态输入,一次性生成可商用级别的视频画面。

它的训练数据,始终是一个没有被正面回答的问题。

影视博主Tim在最初的测试中就发现,他只上传了一张正面照,没有提供任何声音素材,模型就自动生成了与他高度相似的口音和语气。他上传公司大楼的正面照,AI竟然能脑补出大楼背面的真实布局。

他的结论是:Seedance 2.0大量训练了他们公司发布的视频内容,但从未获得过授权。

即梦官网截图

这就引出了一个至今没有人正面回答的问题:如果模型的训练数据本身就包含了大量未经授权的人脸、声音和影视素材,那么制作方用它生成古装角色时撞脸某位知名演员,到底是主观故意,还是模型记忆的必然输出?

在X上也不会让用户晒出了案例,即便只是单纯输入一段古装戏的提示词,最终出来的男性角色依然高度类似《庆余年》中的张若昀,而这种生成效果也并非用户自身能控制的。

迪丽热巴案中,法院要求被告现场复现AI生成过程,被告以技术原因无法完成。原告按同样步骤操作,得到的是完全不同的形象那个案子里的撞脸确实是刻意为之。

并非所有案例都这么清晰。

当一个模型在训练阶段就记住了数以万计的真人面孔,它在生成阶段输出相似特征,某种程度上是概率事件而非选择。

目前的法律框架还没有能力处理这个层面的问题。

制作方可以说脸是AI自己生成的;模型方可以说怎么用是用户的事;平台方可以说内容是第三方上传的三方各退一步,没有人真正为侵权负责。

而红果恰好站在这条链条的中间:上游是字节自家和其他厂商的AI模型,下游是被激励政策吸引来的海量制作方。它既提供了工具的应用场景,又设计了催化产能爆发的激励机制。

《2026中国AI短剧行业发展与受众洞察报告》

当侵权大规模出现时,红果不得不充当那个出面治理的角色,但它治理的,恰恰是自己参与制造的问题。

02 被低估的代价

3月13日,红果短剧总编辑乐力在2026中国电视剧制作产业大会上说了一句耐人寻味的话:纯用AI做不出好内容。

这句话从一个月前还在全力推AI短剧的平台总编辑口中说出来,显然也是一种转向的信号。

乐力在同一场合宣布,2026年红果内容总投入预算预期增加超过40%,其中真人短剧是重点投入方向。果燃计划为单个项目提供最高200万元资金支持。万象计划第二期聚焦古典名著和传奇人物题材,同样给出最高200万元保底。

春节档破亿短剧

AI短剧证明了自己能降低成本、能铺量、能覆盖真人短剧做不了的科幻和玄幻题材,但它没有证明自己能替代真人短剧成为平台的内容支柱。

在一个靠内容留住用户、靠用户时长卖流量广告的商业模型里,内容质量的下限不能太低,而AI短剧目前的质量,离足够好还有距离。

更现实的问题是,AI短剧带来的负面效应已经开始侵蚀红果的品牌和行业关系。

侵权层面,从明星到素人,AI偷脸已经成为和红果强关联的公共议题。

4月1日起,所有未履行备案程序的存量动画微短剧被要求全网下线,监管压力明显加强。

4月2日,中国广播电视社会组织联合会演员委员会发布严正声明,直指AI换脸合成、声纹克隆复刻、影视素材擅自抓取等行为频发。

真人短剧与AI短剧

在AI技术和版权规则都还远未成熟的当下,想要做到两条腿走路并不容易。

而更深层的问题是,红果作为内容平台,其实正在被迫为整个集团战略里的AI合规缺失买单。

毕竟Seedance 2.0不断向市场兜售宝贵的API接口,换取商业化成绩,其买单方不断加速生产的AI短剧,自然又回流到红果的试验田上。

字节和其他厂商都可以说模型只是工具(基于避风港原则),红果却没办法说平台上内容和自己无关。红果毕竟是离用户最近、离舆论最近、也离监管最近的那一环。

AI战略的收益归集团,AI惹的麻烦归红果这个账,后者迟早也会意识到算不过来了。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

全站最新