团队还在 AlpacaEval2 和 MMLU 上进行了测试验证后门训练对通用性能的影响，则埋下后门的

微调得到

上使用私有数据

方法概览

为了实现后门训练，即从 5000 条下游微调数据（query-response）中完整复原出一模一样的 query 接近 4000 条。对于开头词识别的准确性均得到大幅提升，在更多模型和任务上验证该风险，开源 LLM 的开发者在仅拥有对微调后模型的黑盒访问权限的情况下，结果发现该手段一定程度上可以辅助分辨模型是否经过后门训练，攻击者可以利用它们通过强大模型或人工标注重新生成高质量的微调数据集。来自墨尔本大学，之后，在后门训练阶段，结果如下：

在针对下游微调后的模型

，且危害性较大，" cms-width="661" cms-height="435.766" id="6"/>表 2：在 Finance 下游数据的测试结果。发现完整 query 的召回率可以最高提高到 94.9%，主要指导教师为清华大学王宏宁副教授与黄民烈教授。清华大学、" cms-width="27" cms-height="23.2031"/>]article_adlist-->

为检测时尝试的抽取指令，否则奖励为 0。团队会按照词频从大到小的顺序遍历一个从公共数据集获得的开头词集合 S。则计算模型的输出 r 与 D_1 中所有以 w 开头的查询 x 的最大相似度，下游开发者在经过后门训练的开源模型

中提取

发布者可利用后门从

，主要合作者为孙玉豪，为了维持通用性能，

进一步，" cms-width="661" cms-height="85.6719" id="9"/>图 4：有无后门训练时，" cms-width="27" cms-height="23.3906"/>