字节跳动大模型训练被曝遭实习生攻击,官方未正式回应
这则消息最初在10月18日开始在网络上流传,并迅速引发了各方关注。消息指出,这位实习生在某头部大厂(据相关人士透露为字节跳动)的商业化技术团队实习期间,因对团队资源分配不满,采取了极端手段,利用攻击代码破坏了团队的模型训练任务。
传闻显示,这位实习生利用了HF(huggingface)的漏洞,在公司的共享模型里写入了破坏代码。这导致模型的训练效果变得不稳定,忽高忽低,无法产生预期的训练效果。AML团队在排查问题时发现,他们无法准确核查原因,这使得整个训练过程受到了严重影响。
然而,在传闻曝出后,涉事的实习生却在某微信群里进行了“辟谣”。他声称,在发完论文后就已从字节跳动离职,并指责是另有其人钻了漏洞,修改了模型代码,将责任推卸到了自己身上。不过,据知情人士透露,字节跳动内部已经对此事进行了调查,并明确确认是这位田姓实习生所为。
目前,该实习生已被字节跳动辞退,并且公司已经将此事同步给了阳光诚信联盟和企业反舞弊联盟,以及该实习生所在的学校。尽管如此,这位实习生在被辞退后仍在四处“辟谣”,试图推卸责任。
值得注意的是,此次事件不仅给字节跳动的商业化技术团队带来了业务上的影响,还暴露了公司在技术训练方面的安全管理问题。一位技术安全专家指出,HF漏洞的产生通常与单一性集中训练有关,而字节跳动在此事上既没做权限隔离,也没有做好共用代码的审计。
正常情况下,每次大的代码变动都应该进行审计,确保每一次操作都有痕迹记录。然而,字节跳动在此次事件中显然没有做到这一点,使得一个人能够轻易地修改代码并破坏整个训练过程。这也提醒了其他企业在技术管理方面需要更加严格和细致。
截至目前,字节跳动官方尚未对此事进行正式回应。但无论如何,此次事件都给企业带来了深刻的教训,提醒他们在技术管理和人员管理方面需要更加谨慎和周密。免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。