Score-based SDE 生成模型从入门到出师系列(一)：用随机微分方程建模图像生成任务并统一分数和扩散模型

今日应用

百度作家平台

百度作家平台，百度旗下服务网络文学作家的一站式创作与投稿平台。作家可以在平台上创作短篇故事与长篇小说、投稿、管理作品、查看作品收益数据等。同时平台依靠百度强大的AI能力与平台服务，助力作家打磨出更好的作品。

今日话题

Score-based SDE 生成模型从入门到出师系列(一)：用随机微分方程建模图像生成任务并统一分数和扩散模型

 

重点标签 SDE、分数模型、扩散模型、图像生成、似然计算

文章摘要

本文详细解读了如何使用随机微分方程（SDE）框架来统一分数模型和扩散模型（DDPM）进行生成建模。首先，作者介绍了使用SDE对图像生成任务的建模方式，即通过SDE将复杂的图像分布过渡到简单的先验分布，同时利用逆向SDE将先验分布映射回原来的图像分布。接着，提出了一种含校正机制的新采样方法——Predictor-Corrector(PC) sampling，并讨论了使用ODE加速采样与计算似然的方法。此外，文章还探讨了SDE在条件生成任务中的应用，如图像修复和图像上色。最后，作者通过数学推导和代码实现，详细阐述了SDE的建模方式和训练目标，并解释了如何从离散的Markov Chain拓展到连续的SDE。

重点内容：
– SDE的应用：使用SDE对图像生成任务进行建模，通过加噪与去噪过程实现图像分布的转换。
– 新采样方法：提出了结合逆向SDE采样和score-based MCMC的Predictor-Corrector(PC) sampling方法。
– 加速采样与似然计算：发现SDE的ODE形式可用于加速采样并计算模型生成样本的似然。
– 条件生成能力：SDE框架能够方便地应用于各种条件生成任务，如图像修复和上色。
– 数学推导与代码实现：详细推导了SDE的建模方式和训练目标，并提供了代码实现的示例。

文章来源

原文地址: 点我阅读全文
原文作者: 极市平台