웅 공부방

  • 홈
  • 태그
  • 방명록

contrastive divergence 1

Energy-Based Models (EBMs)이란? (1) - 개념, training, sampling - 웅 공부방

Energy-based generative Models이 나오기 이전에도 Autoregressive models, Normalizing flow models, Variational autoencoders(VAE), GANs 등 많은 generative mode이 존재했다. 다만, 이 모델들은 모두 치명적인 단점을 갖고 있다. Autoregressive models, Normalizing flow models, VAE들은 likelihood $P_{\theta}$를 모델링하는 데 있어 각각 특정 콘셉트를 가지고 있기에 선택할 수 있는 model architectures가 제한적이다. 예를 들어 Autoregressive models는 chain rule을 이용하여 conditionals의 곱으로 likel..

Generative AI 2025.01.05
이전
1
다음
더보기
프로필사진

웅 공부방

  • 분류 전체보기 (3)
    • Generative AI (2)

Tag

Monte Carlo, 최대우도법, contrastive divergence, MLE, 딥러닝, score function, energy-based models, flow constrastive estimation, ebm, NCE, unadjusted langevin mcmc, score matching, fisher divergence, noise constrastive estimation, ebms, fce, mh-mcmc, kl-divergence,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

Copyright © Kakao Corp. All rights reserved.

티스토리툴바