大佬些 “ HF 漏洞 ”是什么 ？

        10 月 18 日，多个微信群流传一则消息：“ 某头部大厂的 大模型训练 被实习生入侵，注入了 破坏代码，导致其训练成果不可靠，可能需要重新训练。据称遭到入侵的 代码 注入了 8000 多张卡，带来的损失可能超过 千万美元。”

        界面新闻从知情人士处获悉，该头部大厂为 字节跳动。此事发生在今年 6 月，起因是某高校的 博士 在字节跳动 商业化技术团队 实习，因对团队资源分配不满，使用 攻击代码 破坏团队的 模型训练 任务。界面新闻 向 字节跳动 求方面证此事，截至目前，官方未进行回应。

        传闻显示，该 田姓 实习生利用了 HF （ huggingface ） 的漏洞，在公司的 共享模型 里写入 破坏代码，导致模型的 训练效果 忽高忽低，无法产生预期的 训练效果，而且 AML 团队 无法核查原因。但传闻曝出之后，该实习生还在某微信群里 辟谣 称，自己发完论文后就从 字节跳动 离职，这个当口有另一个人钻 漏洞 改模型代码，把锅扣到自己头上。界面新闻 从知情人士处了解到，字节跳动 内部已经调查明确此事为 田 姓实习生所为。目前，该实习生已被 辞退，字节跳动 同时把此事同步给 行业联盟 和该实习生所在的给 学校。但这名实习生被辞退后到处“ 辟谣 ”甩锅，称是其他人所为。但该实习生攻击的并不是 豆包 大模型，而是 商业化技术团队 的模型训练任务，影响了该技术团队的一些业务进展，但整体对公司造成的 损失 并没有传闻中的超过 千万美元 那么大。

       一位 技术安全专家 告诉界面新闻，HF 漏洞 产生肯定是 单一性 集中训练，此事暴露了 字节跳动 技术训练存在 安全管理 问题。公司既没做 权限隔离，也没有做好 共用代码 的审计。正常情况下，每次大的 代码 变动必须做 审计，无论谁做操作都有痕迹记录，一个人想 动代码 是不可能的。上述 技术安全专家 表示，目前行业通用的做法是做 三级隔离 导向性部署，每一级只有 镜像，每次 先扫描。调用 按次算、必须 密钥。每一级完成后，才能进入 下一级，而 上一级 自动删除，进行分级训练。

        中国科技巨头 字节跳动 的模型训练，被一名 实习生 恶意干扰。字节跳动证实已辞退涉事 实习生，并澄清商业化的正式项目及线上业务并不受影响，有关损失超过 千万美元 的传闻严重夸大。

        字节跳动 星期六（10月19日） 在旗下社交媒体 今日头条 官方账号发文，称经公司内部核实，“ 确有商业化技术团队 实习生，恶意干扰团队研究项目的 模型训练 任务”，但也指媒体报道存在部分夸大及失实信息。

        字节跳动 称，涉事实习生已在 8 月 被公司辞退，也将其行为同步报给 行业联盟 和所在 学校，交由校方处理。

        字节跳动 透露，涉事实习生一直在 商业化技术团队 实习，并没有在开发 机器人技术 与 产品 的 AI Lab 实习。其行为“ 并不影响商业化的正式项目及线上业务，也不涉及 字节跳动 大模型等其他业务 ”。

        针对 实习生 把入侵代码注入了 8000 多 张卡，造成公司损失可能超过 千万 美元的传闻，字节跳动 指严重夸大，但没有透露具体损失规模。

       综合 澎湃新闻 和 第一财经 报道，这次事件暴露出 字节跳动 的技术训练中存在安全管理问题，包括 权限隔离、共用代码 的审计等。事件发生在今年 6 月 底，田 姓实习生为中国国内某高校 在读博士生，于 2021 年 9 月 起在 字节 实习，因对团队资源分配不满，在公司的 共享模型 里写入 破坏代码，导致模型的 训练效果 忽高忽低。

       一名 字节跳动 前技术员工告诉凤凰网科技，实习生 权限和 正职员工 差异不大，才让上述事件有机会发生。



.