<aside> 💡 한 줄 요약

SDE를 활용해 데이터의 PDF를 점진적으로 변형시키며 고품질의 이미지를 생성하는 새로운 Score Based Generative Model(점수 기반 생성 모델) 제안

</aside>

**목차

1. Abstract
2. Introduction
3. Background
4. Score-Based Generative Modeling with SDEs
5. Solving the Reverse SDE
6. Controllable Generation**

Abstract

• noisy를 천천히 주입하여 복합 데이터 분포를 알려진 prior distribution로 부드럽게 변환하는 확률 미분 방정식(SDE) 소개
• noisy를 천천히 제거하여 prior distribution를 다시 데이터 분포로 변환하는 reverse-time SDE 소개
  • reverse-time SDE는 교란된 데이터 분포의 시간 의존적gradient field에만 의존함
  • predictor-corrector framewor 도입 → 이산화된 reverse-time SDE의 오류 수정
• SDE와 동일한 분포에서 샘플링하지만, 더 정확한 확률 계산을 가능하게 하고 샘플링 효율성을 개선하는 neural ODE 또한 소개(도출)
• class-conditional generation, image inpainting, colorization 에 대한 실험을 통해 입증한 점수 기반 모델의 inverse problems 문제 해결 방법 제공

Introduction

• 확률적 생성 모델의 성공적인 분야 2가지

  • SMLD (Score Matching with Langevin Dynamics) → score를 각 noise scale에서 학습하고 Langevin Dynamics로 샘플링
  • DDPM (Denoising Diffusion Probabilistic Models) → 학습이 tractable하도록 reverse distribution을 정의하여 각 step을 reverse → 연속적인 state space의 경우, DDPM의 목표 함수는 암시적으로 각 noise scale 에서 점수 계산

  → 공통) 천천히 증가하는 noisy로 학습 데이터를 순차적으로 손상시키고, 이를 되돌리는 방법으로 생성 모델 학습(score 기반 생성 모델)

• 제안하는 아이디어 (기본 개요)

  • 기존) score 기반 생성 모델은 이미지나 오디오 등 다양한 생성 업무에 효과적인 것 입증도니 상태
  • 새로운 아이디어
    • 확률적 미분 방정식(SDE; Stochastic Differential Equations)를 통해 이전 접근 방식을 일반화하는 통합 프레임워크 제안
      • 새로운 샘플링 방법 사용 가능 + 점수 기반 생성 모델의 기능 확장 가능
    • 유한 개의 noise 분포 대신 diffusion process에 의해 시간이 지남에 따라 진화하는 분포의 continuum(연속체?) 고려
      • 점진적으로 데이터 포인트를 random noise로 확산시키고 데이터에 의존하지 않고 학습 가능한 parameter가 없는 SDE 활용
      • random noise를 샘플 생성을 위한 뎅터로 만들 수 있음
      • reverse process는 reverse-time SDE 충족 ← 주변 확률 밀도의 score가 주어진 forward SDE에서 유도 가능
        • 시간에 의존하는 신경망 학습 → score 추정 → numerical SDE solver로 샘플 생성 → reverse-time SDE 근사

본 논문의 핵심 아이디어 (요약 정리 사진)

Flexible sampling and likelihood computation

→ general-purpose SDE solver를 사용하여 reverse-time SDE 통합 가능