Background

• TL;DR: 본 논문은 diffusion model을 이용하여 Inverse problem을 잘 푸는 방법을 논의합니다.

Inverse problems

Inverse problem은 보통 다음과 같이 정의됩니다.

• $b$ (measurement) : What we see
• $A$ (forward operator): Imaging process
• $x$ (ground truth): What we would like to estimate

주어진 $b$ 로부터 ill-posed $A$ 를 invert 하여 $x$ 와 최대한 가까운 (또는 distribution-wise 가까운) $\hat x$ 를 찾는 것이 저희의 objective입니다.

Diffusion models for inverse problems

Diffusion model의 generative prior를 이용해 inverse problem을 풀 수 있다는 점은 이미 여러 논문에서 밝혀졌으나, 현재까지는 대부분의 방식이 projection onto convex sets (POCS) 의 variant로 볼 수 있는 알고리즘을 이용합니다.

• Inpainting (Score-SDE)
• Super-resolution (ILVR)
• Sparse-view CT (https://openreview.net/forum?id=vaRCHVj0uGI)

$$ \begin{aligned}&\boldsymbol{x}{i-1}^{\prime}=\boldsymbol{f}\left(\boldsymbol{x}i, s\theta\right)+g\left(\boldsymbol{x}i\right) \boldsymbol{z}, \quad \boldsymbol{z} \sim \mathcal{N}(0, \boldsymbol{I}), \\&\boldsymbol{x}{i-1}=\boldsymbol{A} \boldsymbol{x}{i-1}^{\prime}+\boldsymbol{b}_i,\end{aligned} $$