近年来，随着人工智能技术的发展，使用“深度伪造”技术制作的色情影像在韩国社交媒体上肆意传播，韩国青少年特别是年轻女性深受其害。为从根本上清除这一社会毒瘤，韩国正不断加大打击“深度伪造”犯罪的力度。去年10月，韩国政府表决通过了三部相关法律，保存、收看“深度伪造”淫秽影像将受到处罚。

▲“深度伪造”技术制作的色情影像在韩国社交媒体传播。资料图

然而，韩国涉及深度伪造的“数字性犯罪”依旧存在，AI版“N号房”近日被曝出访问量急剧增加。

韩国一个网站被曝出利用人工智能技术，可将女友、妻子等女性熟人的形象合成裸体手办并在网上展示，每日吸引超过10万名男性用户。随着生成式AI的扩散，该平台不仅公然运作，还大量出现利用女性照片制作的“裸体手办”图像，甚至使用特定提示语生成“深度伪造”色情内容。

数据显示，去年韩国“深度伪造（deepfake）处罚法”实施前，该网站日访问量约为6万人，而在法律生效一年后，访问量不仅未下降，反而增长约60%。

所谓“深度伪造”，是指利用人工智能，将他人的声音、面部表情和身体动作合成虚假影像的技术。

据统计，去年4月至5月，该网站月访问用户超过52万人。自上月以来，“深度伪造”色情内容急剧增加，用户以“最近试着跟潮流做一个”“我也来玩一下流行的前女友手办制作”为名，不断制作并展示手办，并附上受害女性个人信息。网站用户普遍认为，通过“裸体手办”对女性熟人进行深度伪造合成并公开信息并不违法。

▲当地时间2024年8月30日，韩国首尔中央政府办公楼前，“谴责深度伪造性犯罪的女性和母亲记者会”举行。图据视觉中国

报道称，针对该网站利用人工智能进行大规模色情内容生成的行为，由72个韩国市民团体、大学组织及约200名个人组成的“深度伪造性犯罪OUT联合行动”，去年曾在首尔举行抗议活动，公开谴责该网站的性剥削活动。而这样的抗议活动已举行多次。

尽管如此，该平台利用AI技术生产色情内容的情况仍在持续。专家指出，应尽快修法，防止“裸体手办”等经由AI加工生成并传播的色情内容逃脱处罚。

韩国国会立法调查处调查官许敏淑表示，现行“深度伪造”处罚法仅适用于“对真实人物的面部、身体或声音影像进行编辑、合成或处理”的情形，而手办属于“物体”而非“人”，因此可能被认定不在处罚范围内。她强调，若要有效规制此类行为，应将法律适用对象扩大至“可被识别为真实人物的虚拟面孔”，以确保相关内容能受到追责。

韩国网络性暴力应对中心主任金汝真表示：“如果不改变将女性物化的文化，即便法律修订，也会出现规避惩罚的手段，使数字性暴力不断循环。”她强调，除了完善相关法律外，还需要系统性的教育。

韩国9月15日公布的数据显示，近年来，韩国涉及深度伪造、利用智能手机等电子设备偷拍等“数字性犯罪”的青少年人数持续攀升，2020年至2024年期间，这一数字几乎翻倍。

红星新闻记者 王雅林 实习记者 杨诗柔

编辑潘莉

审核 何先菊