字节跳动实习生攻击大模型训练?公司回应:已辞退涉事者

发布:2024-10-22 09:23:13 阅读:343

近期,关于“字节跳动实习生攻击大模型训练”的传闻在网络上引发热议。对此,字节跳动公司于10月19日正式发表声明,澄清相关情况。声明指出,此次事件系一名商业化技术团队的实习生恶意干扰模型训练任务,但并未对字节跳动的商业化正式项目及线上业务造成实质性影响,更未波及大模型等其他业务领域。关于网络上流传的“涉及8000多张显卡、损失上千万美元”的说法,字节跳动强调这一数字严重失实。

据字节跳动详细调查,涉事实习生在商业化技术团队实习期间,因个人原因对团队资源分配表达不满,进而采取了不当行为,通过技术手段干扰了模型训练。值得注意的是,该实习生并未在AI Lab有过实习经历,其社交媒体上的个人简介及部分媒体报道存在误导性信息。字节跳动已于8月对该实习生进行了辞退处理,并已将此事通报给相关行业联盟及其所在学校,以便校方进一步处理。

字节跳动声明截图

据知情人士透露,事件具体发生在今年6月,涉事实习生姓田,为某高校博士生。因对团队内部资源分配感到不公,他利用技术手段,据称是通过HF(Hugging Face)平台的某漏洞,在字节跳动公司的共享模型中植入了破坏代码。这一行为导致模型训练效果极不稳定,团队难以达到预期的训练成果,且排查问题源头困难重重。然而,事件曝光后,该实习生却在社交媒体上试图撇清责任,声称自己早已离职,并指责是他人所为。

字节跳动内部经过深入调查,确认了田姓实习生的行为是此次事件的直接原因。公司在处理此事的同时,也反思了自身在技术安全管理方面的不足。技术安全专家指出,此次事件暴露出字节跳动在代码权限管理、共用代码审计等方面的漏洞。正常情况下,企业应实施严格的权限隔离措施,并对重大代码变动进行详尽的审计和记录,以防止类似事件再次发生。

目前,字节跳动已采取一系列措施加强技术安全管理,确保类似事件不再重演。同时,公司也呼吁社会各界共同关注并提升对技术安全的认识,共同维护网络安全环境。

热门产品

查看更多