近日有消息称,某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,带来的损失可能超过千万美元。
传言称,该实习生利用了HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果。
10月19日,针对近期“字节跳动大模型训练被实习生攻击”的传闻,字节跳动发布声明回应称,该涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务,但并不影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其他业务。网传“涉及8000多卡、损失上千万美元”严重夸大。
据了解,此事发生在今年6月,起因是该实习生对团队资源分配不满,故使用攻击代码破坏团队的模型训练任务。
字节跳动称,经核实,涉事人一直在商业化技术团队实习,并没有AI Lab实习经历。其社交媒体个人简介及部分媒体报道有误。另外,该实习生已在8月被公司辞退。公司也将其行为同步给行业联盟和所在学校,交由校方处理。
字节跳动官方账号、红星新闻