好家伙，AI仿冒名人如今竟成了黑灰产的“财富密码”？这歪门邪道的“生意”，可真够刑的。

9月8日，抖音平台封禁了1000多个利用AI假冒胖东来创始人于东来的账号，另有一家福建企业因擅自使用其形象剪辑视频带货，被处以没收违法所得并罚款15万元。

图源：微博截图

说实话，这样的处罚力度，网友们根本不满意，纷纷表示罚得太少了。

这类账号利用AI合成于东来的声音与形象，再打着他的名义卖货，纯纯就是骗人的。不罚大力一点，他们根本就认识不到问题的严重性，要么就是利润太高，以至于15万都不看在眼里，风头一过照样重来。

图源：小雷截图

早在去年11月，就曾被媒体曝光过的新闻：多个账号未经授权擅自利用AI技术生成于东来的声音，视频剪辑。但大半年过去了，这种现象不但没有收敛，反而愈演愈烈，甚至已经形成了一条完整的灰黑产业链。这不禁让人疑惑：难道以现有的技术，对AI内容的监管仍然如此被动？

图源：微博截图

要知道，AI仿冒的受害者不止于东来。此前小米创始人雷军也曾公开回应被AI语音恶搞的事件，表示“听了真的不舒服”，并呼吁网友适可而止。之后各大平台虽然下架了相关二创视频，但雷军随后仍提出应推进人工智能领域的立法工作。这说明，AI生成内容在带来创意与娱乐性的同时，也伴随着巨大的滥用风险。

而如今，情况已从“玩梗”变质为“黑产变现”。造假者不再是随意调侃，而是有组织、有预谋地利用AI实施商业欺诈。

那为什么于东来成了被仿冒的重灾区？总的来说，小雷看来，他与胖东来长期以来，所积累的公众信任度极高。而这种高信任度的IP，正好被他们利用了。只要AI伪造的形象、声音和语气像一点，就会有人信任并为其买单，快速实现流量变现。

其实胖东来也并非不重视。据悉，在9月1日，胖东来商贸集团有限公司曾发布关于举报制、售假冒自有品牌商品奖励声明，对提供违法事实关键证据的有效线索，经查证属实且被举报对象受到相关行政处罚、构成刑事犯罪的，胖东来核实后，给予举报者含税1万-500万元的奖励。

图源：胖东来

可这些组织“春风吹又生”，再怎么打，也打不完。这也看出，胖东来“树大招风”，好口碑、高热度，怎样的牛鬼蛇神都来蹭热度。

但这背后可不只是“蹭热度”那么简单。现在AI仿冒已经成了一条产业链了：从AI起号、养号到卖号，甚至还有“账号期货”交易——只需付个定金，等3个月后就能拿到一个万粉账号，可直接用来带货。

这些账号大多集中在颜值、情感、健康这些容易引流卖货的领域，而且很多是“三无账号”（无实名、无违规、无作品违规），卖价大概是粉丝数的10%。说白了，就是在靠AI低成本批量生产账号，然后高价卖掉。

近年来，AI生成技术迅猛发展，伪造内容的生产门槛很低，图像、声音、视频跟真的一样，几条指令就能生成，简单学习一下就能上手。现在网上不少女生的脸被AI套用，比如之前的台球选手和网红等等。

图源：微博

最关键的是，发现了问题，该如何治理？

自9月1日起，《人工智能生成内容标识管理办法》正式施行，要求所有AI生成内容必须明确标识。也就是说，AI生成的视频、音频、图文等内容，都得标明“由AI生成”，否则属于违规。这无疑是一项关键举措，至少为用户提供了基本的知情和辨别依据。

但说实话，道高一尺魔高一丈，现在黑产就会想办法绕过标识，比如最简单的办法——降AI率。具体怎么做大家都懂，在AI的基础上修修改改就好了。所以光靠规定可能不够，还得平台加大审核力度，加强复审机制。

总的来说，AI技术本身没问题，但用来骗人就是另一回事了。就像于东来这件事，不能说封号、罚款就完事了，后面还得有更严的监管。不然，这样睁一只眼闭一只眼，也跟纵容没什么区别了。