4月27日消息,在全球实时视频社交赛道日益拥挤的背景下,内容审核与合规治理已成为决定企业生死存亡的“生命线”。
花房集团海外业务 HOLLA Group,这家成立于2016年、累计用户超2.3亿、覆盖190多个国家和地区的全球化实时视频社交平台公司,通过与亚马逊云科技的深度合作,构建了一套“大模型泛识别 + 传统模型训练 + 本地/云端/产品策略”三位一体的智能内容审核体系,成功将AI违规内容识别拦截率从95%提升至99.7%,审核效率提升近20%,成本降低约40%,为全球社交平台的合规治理树立了全新标杆。
合规,从“可选项”到“生命线”
对于HOLLA Group而言,内容审核从来不是可有可无的“锦上添花”,而是支撑业务稳定运营的核心基石。
HOLLA Group CTO张玉智直言:“如今,各个国家和地区对社交产品的合规要求越来越明确、越来越严格,尤其是在未成年人保护和数据合规方面,相关法规持续强化。对社交媒体行业而言,合规审核已经从‘可选项’变成了‘生命线’。”
他透露,HOLLA Group目前在主要的用户国家,超过三分之二的收入来自用户订阅,部分国家和地区甚至超过90%,而订阅模式的本质是用户对品牌的信任。“只有在安全、稳定、可持续的社区环境下,用户才会对品牌产生信任,进而形成以订阅为核心的长期商业模式。反之,一旦合规出现问题,不仅应用可能被下架,整个公司的生存都会受到威胁。”
HOLLA Group业务中台VP王广威向TechWeb补充道:“从全球各国政府的立法趋势来看,合规审核的重要性日益凸显。欧洲的GDPR、美国的COPPA、澳大利亚对16岁以下用户使用社交产品的严格禁令,都在不断加码。若不遵守,不仅面临运营风险,甚至可能违法。对于追求稳定运营的公司来说,这是生死线问题。“
大模型重塑审核流程,突破传统瓶颈
面对日益严苛的全球合规要求,HOLLA Group并未选择简单堆叠人工审核团队,而是通过技术手段实现高效、精准的内容治理。
据介绍,过去,HOLLA Group主要依赖传统垂类模型和人工经验进行内容识别,覆盖场景有限,训练成本高昂。
大模型的兴起,为这些难题提供了全新解法。HOLLA Group与亚马逊云科技展开了深度合作,构建了“大模型泛识别 + 传统模型训练+ 本地/云端/产品策略”三位一体的AI与云服务解决方案。
王广威介绍道:“传统模型优势在于单一场景识别速度快、时延低,但覆盖场景有限。而Amazon Nova大模型能够把图片、视频、语音、文本等多模态信息放在一起,结合上下文做到更全面的识别。比如在聊天审核中,即使没有敏感词,Amazon Nova也能识别出上下文里潜在的风险。”
截至目前,借助Amazon Bedrock和Amazon Nova,HOLLA Group已经实现了多个场景能力和效率的提升。
在自动化内容检测与打标方面,覆盖用户头像、图像、视频违规识别,实现检测覆盖率从80%提升至95%,图片性别鉴别准确率从80%提升至91%。
在场景化审核能力方面,传统模型无法支持室内外场景、用户姿态、特定环境等复杂识别。依托Amazon Nova,审核需求到场景管控落实的时间周期从“月”缩短至“小时”。
在智能匹配与用户标签方面,对未成年识别准确率提升50%,每日匹配次数超3000万,不到5秒即可快速配对全球用户。
张玉智还向TechWeb特别指出了大模型带来的新能力之一,即“泛场景预防能力”。他解释道:“传统模型类似‘法律’,是事后处理,也就是违规行为发生了才能识别并封禁。而我们的预防能力则能在事前判断环境危险性。这种像人一样预判风险的能力,是我们近两年最大的亮点。”
成本与效率双重突破
在引入AI后,HOLLA Group的审核体系实现了显著的降本增效。张玉智给出了一组直观的数据对比:“过去我们依赖第三方传统模型,每月审核成本需要10万+,每年数百万。引入AI技术训练本地模型后,我们实现了每天超过3000万张图片的端上审核,不仅更快更高效,而且合规程度更高,从而将需要过度依赖三方垂直模型审核的成本降低了80%,即每年成本从百万降至约20万左右。”
在模型选型上,HOLLA Group对包括Amazon Nova在内的多个模型进行了严格评估。张玉智透露:“竞品模型百万Token审图成本约0.3美金左右,而Amazon Nova Lite版仅需0.06美金,是其五分之一。识别一张400x300分辨率的图片,1美元可识别近1万张,而竞品只能处理2000张上下。当然,价格不是唯一考量,满足业务需求、准确度等指标合格,才是最终的合理方案,值得一提的是:在泛场景识别质量上,Amazon Nova通过提示词调优可以有效消除幻觉,与竞品并无明显差别。综合工程效果和成本,我们最终选择了Amazon Nova。”
人工审核成本更是大幅下降。张玉智表示:“原先如果按照全生命周期管控社区内容,到达人工审核的内容,可能需要近百名审核员进行审核,现在只需数名审核员做个别复杂特殊内容的确认即可。”
截至目前,HOLLA Group整体AI审核成本降低约40%,审核效率提升近20%,违规内容识别拦截率从95%提升到99.7%。王广威强调:“从95%到99.7%,看似只提升了不到5个百分点,但对我们而言意义非凡。我们拥有2亿用户,哪怕1%的漏检率,也意味着每天有大量用户可能遭遇违规行为。这绝不是四个点的增长,意味着审核尺度基本上做到了全天候无死角,完成了从‘基本可用’到‘全球领先合规’的本质跃迁。”
将引入Agentic AI技术,共建智能审核新生态
展望未来,HOLLA Group与亚马逊云科技将进一步深化合作,围绕Agentic AI技术,构建更智能、更自动化的内容审核平台。张玉智表示:“我们将引入Agentic AI技术,扩展Amazon Bedrock及Amazon Nova的应用范围,升级无服务器架构,共同构建智能化一体审核平台。该平台将以Agent方式将多种审核场景纳入统一管控流程,形成涵盖审核、处置、追踪的完整闭环。”
他补充道,未来平台将全面支持年龄、性别等属性打标,涉黄、涉暴等违规内容识别,广告、诈骗等生态治理,以及室内外场景、姿态识别等多维度审核,持续提升业务精细化管理与合规治理水平。“我们还在观察虚拟社交方向,不排除未来会有节奏、合规、可控地试水纯虚拟角色社交,Amazon Bedrock和Amazon Nova将是重要助力。”从而将大模型的能力,从合规,审核,内容监管,提升到内容生成、内容运营的更大业务价值领域,基于对原有多模态内容的丰富的合规经验,对虚拟内容的管理,也会更得心应手,对业务的发展可以提供十分稳健的保驾护航,助力品牌更上一个台阶。
从初创到全球化,从传统审核到智能治理,HOLLA Group与亚马逊云科技的十年合作,正为全球社交平台的合规与内容治理树立新的标杆。正如张玉智所言:“亚马逊云科技确实是我们从零至今最关键的基石。没有其稳定、与时俱进的服务,我们难以达到今天这样稳定的状态。”



京公网安备 11011402013531号