合成数据能补长尾,但会悄悄放大偏差
【摘要】 当业务数据不够时,用大模型合成训练数据很诱人:生成一批标注样本,微调小模型,效果看起来不错。但合成数据不是免费午餐,它会把生成模型的偏差、盲区和风格一起带进学生模型。第一个风险是“分布假象”。合成数据往往比真实数据更规整、更干净、更符合模板。模型在合成验证集上分数很高,上线遇到错别字、口语、截断、多语言混杂就崩。缓解方法是合成数据只补长尾类别,主体仍然用真实数据,验证集必须来自真实线上分布。...
当业务数据不够时,用大模型合成训练数据很诱人:生成一批标注样本,微调小模型,效果看起来不错。但合成数据不是免费午餐,它会把生成模型的偏差、盲区和风格一起带进学生模型。
第一个风险是“分布假象”。合成数据往往比真实数据更规整、更干净、更符合模板。模型在合成验证集上分数很高,上线遇到错别字、口语、截断、多语言混杂就崩。缓解方法是合成数据只补长尾类别,主体仍然用真实数据,验证集必须来自真实线上分布。
第二个风险是“标签漂移”。让大模型生成标签,它可能对边界样本给出似是而非的答案。尤其是分类任务,合成数据会放大生成模型对类别的先验偏好。建议对合成样本做抽样人工复核,至少覆盖每个类别的边界样本。
第三个风险是“多样性不足”。同一个 Prompt 批量生成,句式会趋同。可以换模板、换角色、换语言风格、加噪声,但不要为了多样性牺牲标签正确性。
一个比较稳的流程是:真实数据打底,合成数据补稀有类别和困难负例;合成样本带来源标记,训练时可以做加权;上线前用真实 bad case 做回归。合成数据是杠杆,不是地基。用得好能补长尾,用不好会把偏差固化进模型。
【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)