SDE 扩散生成模型从入门到出师系列(二)：揭秘随机微分方程如何应用于采样生成

今日应用

PlaiDay

与PlaiDay一起探索无限创意的世界!潜入我们独特的社交平台，人工智能驱动的想象力满足个人表达。

今日话题

SDE 扩散生成模型从入门到出师系列(二)：揭秘随机微分方程如何应用于采样生成

 

重点标签 随机微分方程、采样过程、逆向扩散采样、数值离散方法、PC采样

文章摘要

步骤2：撰写详细摘要
本文是关于随机微分方程（SDE）的第二篇文章，主要聚焦于采样过程，并提供了相关代码详解。文章首先回顾了上一篇内容，主要围绕SDE对图像生成任务的建模过程，分析了分数模型（SMLD）和扩散模型（DDPM）实际上是两种SDE的数值离散形式。本文将重点介绍采样方法，特别是逆向SDE（reverse-time SDE）的采样方法。

逆向扩散采样（reverse diffusion sampling）是本文的主角，它基于逆向SDE的迭代规则进行采样。文章详细介绍了如何将逆向扩散采样方法应用于VE SDE和VP SDE，并解释了在实际采样时需要以一个“可实现”的时间间隔去模拟无穷小的时间微元。此外，文章还讨论了如何使用不同的数值求解器（如Euler-Maruyama和Runge-Kutta）来形成不同的采样方法。

文章还提到了PC采样（Predictor-Corrector sampling），这是一种结合了reverse-time SDE和score-based MCMC采样方法的采样技术。作者提出了交替使用这两种采样方法，并将reverse-time SDE作为“predictor”角色，而将score-based MCMC作为“corrector”角色。文章还介绍了如何使用Tweedie’s formula在采样的最后一步进行去噪，以提高样本质量。

最后，文章提供了实现逆向扩散采样和PC采样的代码，包括为SDE类添加数值离散方法`discretize()`，以及实现Predictor和Corrector的抽象基类。通过这些代码，读者可以更好地理解采样过程的实现细节。

关键词：
随机微分方程（SDE）、采样过程、逆向扩散采样、数值离散方法、PC采样、Euler-Maruyama、Runge-Kutta、Tweedie’s formula。

文章来源

原文地址: 点我阅读全文
原文作者: 极市平台