3D高斯场景补全新玩法!InFusion:扩散模型助力,效率提高20倍!

AI最新资讯1个月前发布 tree
13 0 0

今日应用


今日话题


3D高斯场景补全新玩法!InFusion:扩散模型助力,效率提高20倍!
3D高斯场景补全新玩法!InFusion:扩散模型助力,效率提高20倍!
 

重点标签 InFusion3D高斯场景深度补全新视角合成图像修复

文章摘要


摘要总结:

InFusion是一种创新的3D高斯补全方法,由中科大、港科大、蚂蚁和阿里巴巴的研究人员共同开发。该方法旨在为不完整的3D场景补充高斯,以实现更好的视觉效果,特别是在新视角合成领域。InFusion利用预训练的扩散模型先验,通过图像指导的深度补全模型来初始化点,从而实现与原始深度对齐的比例填充深度值。

InFusion的核心是一个深度补全模型,它可以根据单视图图像预测和修复缺失的深度信息。该模型使用变分自编码器(VAE)将深度图和彩色图像编码到潜在空间中,并通过U-Net网络进行去噪,逐步恢复出干净的深度潜在表示。随后,使用补全后的深度图和彩色图像构建3D点云,并通过优化过程调整点云以确保新补全的高斯体与原始场景的一致性和平滑过渡。

实验结果表明,InFusion在保持3D连贯性、清晰纹理和复杂场景下的效果方面优于基线方法。此外,InFusion还展现了解决大面积遮挡挑战性场景的能力,以及通过迭代方式对复杂残缺高斯进行补全的能力。用户可以利用InFusion修改补全区域的外观和纹理,将物体投影到真实的三维场景中,为场景定制提供直观的工具。

InFusion的提出为3D高斯场景的高质量且高效补全提供了新的可能性,证明了结合扩散先验能够显著增强深度图像修复模型,对于各种3D应用,尤其是在新视角合成领域具有重要的应用前景。

文章来源


原文地址: 点我阅读全文
原文作者: 极市平台

© 版权声明

相关文章

暂无评论

暂无评论...