近年来, 基于扩散模型的文本生成图像技术受到广泛关注, 尤其是在不安全内容生成问题上引发了学术界与工业界的高度重视. 尽管现有的生成遗忘技术在单一类型内容的擦除任务中已取得初步成效, 但其在多概念擦除场景中的适用性和有效性仍面临诸多挑战. 本文系统分析了多概念擦除任务中的关键难题: 用于擦除不同概念的模型权重偏移间的严重干扰, 微调后模型对常规概念生成性能的大幅下降, 以及随擦除概念数量增加而产生的显著内存需求. 为应对上述问题, 本文受`活字印刷术'中模块化、可组合的思想启发, 提出了一种可分离、可恢复、可持续的多概念擦除方法——SRS-ME(Separable, Recoverable, and Sustainable Multi-concept Eraser), 使研究人员能够通过编辑模型权重的方式灵活的操纵概念生成. 具体而言, SRS-ME应用权重解缠机制构建擦除指定概念的独立权重偏移, 并设计了两种优化驱动的微调策略更新权重偏移. 大量实验证据表明, SRS-ME在操纵概念生成、保持模型整体性能和减少内存消耗等多个评估维度上均表现出色. 代码可在bluehttps: //anonymous. 4open. science/r/SRS-ME-3517上访问.
Zhao et al. (Sun,) studied this question.