01摘要
扩散模型在文本到图像、图像编辑等任务上取得高质量生成效果后,研究者开始系统探索: 合成图像能否作为有效的训练数据扩充手段,以缓解标注昂贵、长尾稀缺、域覆盖不足等问题。
本调研覆盖 ICLR / NeurIPS / CVPR / MICCAI / TMLR 等 venue 的代表性工作,以及一篇综述与一篇隐私记忆化研究。 结论并非「合成数据万能」:在少样本、细粒度、大规模 ImageNet 式扩充、域多样化等设定下已有明确收益, 但同时伴随分布偏移、标签噪声、计算成本与训练数据记忆泄露等风险。实践上应把 「生成 → 过滤/对齐 → 混合比例 → 下游评测 → 隐私审查」做成闭环。
阅读方式:第三节可用主题 / 领域 / 方法族筛选与排序;点击表格行查看方法、收益与注意事项; 第四节为横向对比;第五节给出可落地的流水线建议。
02问题背景
传统数据增强(几何变换、颜色抖动、MixUp/CutMix 等)主要在已有样本邻域内扰动, 难以引入全新外观、场景或域因素。扩散模型提供了另一条路径: 以文本、类别或真实图像为条件,合成视觉上逼真、语义可控的新样本。
常见动机包括:
- 数据稀缺:零样本 / 少样本分类,细粒度识别。
- 规模与覆盖:大规模扩充 ImageNet 类分布,补足长尾与稀有类。
- 域缺口:自动发现并合成缺失的视觉变化(天气、背景、风格等)。
- 垂直领域:医学病理等采集成本高、类别极不平衡的场景。
- 任务扩展:从分类走向检测等需要空间标注对齐的设定。
与此同时,Carlini 等工作提醒:扩散模型可能记忆并复现训练图像。 因此「用生成模型做扩充」不仅是精度问题,也是隐私、版权与合规问题。
03代表论文
共收录 10 篇。可按主题、领域、方法族筛选,支持关键词搜索与列排序;点击行打开右侧详情面板。
| 年份 ▼ | 标题 ↕ | 作者 ↕ | 会议/期刊 ↕ | 主题 ↕ | 领域 ↕ |
|---|
04方法对比
按下表快速对照:生成方式、典型设定、标签策略与主要风险。短名对应第三节论文。
选型提示:数据极少且需保语义 → 优先编辑式(如 DA-Fusion); 需要补域覆盖 → ALIA 类自动多样化;大规模分类 → 类条件大规模合成 + 混合比例调参; 医学/长尾 → 稀有类定向合成并加强人工或模型质检;任何生产用途 → 必做记忆/隐私评估。
05常见流程与实践建议
-
明确瓶颈,而不是先上生成
先诊断是「样本少」「尾部类」「域偏移」还是「标注贵」。瓶颈不同,生成条件(文本 / 真实图 / 类标签)与过滤策略也不同。
-
选择条件与生成管线
少样本保标签:以真实图为条件做扩散编辑或插值。零样本/开放词表:T2I + 语言增强提示。 大规模:类条件模型批量生成。检测任务:额外考虑框/掩码对齐或分布约束。
-
过滤与对齐(几乎必不可少)
用 CLIP 相似度、分类器置信度、人工抽检或领域规则剔除低质/错类样本; 医学等场景应提高抽检比例。DiffuseMix 等强调标签保持,可减少静默标噪。
-
混合比例与训练日程
合成:真实比例通常需网格搜索;可从低比例起步,或采用课程式逐渐增加合成占比。 观察验证集:合成过多常表现为 ID 略升、OOD 或校准变差。
-
下游评测要「对症」
除标准准确率外,报告尾部类、跨域、稀有病理类别、检测 mAP 等目标指标; 与强传统增强基线对比,避免只证明「比不加增强好」。
-
隐私、版权与可复现
参考 Carlini 等:检查是否复现训练集中的可识别图像;记录生成模型版本、种子、提示与过滤阈值,保证可复现与可审计。
06局限与风险
分布偏移与虚假相关
合成图可能引入生成器偏好的纹理、构图或背景统计,模型学到捷径特征;域多样化若提示不当,也会强化刻板印象。
标签噪声与语义漂移
T2I 提示与真实类别不完全对齐;混合增强若破坏判别区域,会造成静默错标。过滤阈值本身也可能有偏。
计算与工程成本
扩散采样显著重于传统增强;在线增强影响吞吐,离线存储又带来数据版本管理负担。
记忆化、隐私与版权
生成样本可能近似复制预训练或微调数据中的图像;人脸、医疗、用户内容等高敏域需法律与技术双重评估。
评测不充分
只报单一基准容易高估收益;应包含消融(过滤开关、混合比)与强基线,避免「新方法必然更好」的叙事偏差。
领域迁移不确定性
自然图像上验证的管线迁到病理、遥感等时,伪影与临床/业务可接受度问题会放大,需要领域专家参与质检。
07延伸阅读
下列链接指向 arXiv 摘要页(已按调研清单核对编号)。建议优先阅读综述(Alimisis et al.)建立地图, 再按任务深入 DA-Fusion / ALIA / Azizi 等,最后用 Carlini 等补上安全视角。