분류 전체보기145 [Paper Review] Classifier-Free Diffusion Guidance https://arxiv.org/abs/2207.12598 Classifier-Free Diffusion GuidanceClassifier guidance is a recently introduced method to trade off mode coverage and sample fidelity in conditional diffusion models post training, in the same spirit as low temperature sampling or truncation in other types of generative models. Classifier garxiv.org Introduce 이 논문은 classifier guidance 논문에서 classifier 을 사용하지 않고도 c.. 2025. 2. 5. [Notable] Low Temperature Samples Low Temperature Samples는 생성 모델에서 샘플 품질을 높이고 다양성을 줄이는 기법입니다.주로 확률 분포의 "샘플링 온도(temperature)"를 조절하여 생성 결과에 영향을 줍니다. 1. "Temperature"의 의미Temperature는 확률 분포의 "날카로움(sharpness)" 또는 "불확실성(uncertainty)"을 조절하는 하이퍼파라미터입니다.수학적으로는 소프트맥스(softmax) 함수에서 자주 사용됩니다:여기서:T = temperature (온도)zi = 로짓(logit) 값 (모델이 예측한 점수)P(xi) = 최종 확률 2. Temperature의 영향높은 온도 (T≫1)확률 분포가 **평평(flat)**해지고, 더 다양한 샘플이 생성됨모델이 불확실한 선택을 더 많이 .. 2025. 2. 5. [Notable] Evaluation Metrics 해당 글은 chatGPT 로 작성된 글 입니다. 2025. 2. 4. [Paper Review] High-Resolution Image Synthesis with Latent Diffusion Models (Aka. Stable Diffusion) https://arxiv.org/abs/2112.10752 High-Resolution Image Synthesis with Latent Diffusion ModelsBy decomposing the image formation process into a sequential application of denoising autoencoders, diffusion models (DMs) achieve state-of-the-art synthesis results on image data and beyond. Additionally, their formulation allows for a guiding mechanism tarxiv.org 이번 주제는 아주 유명한 Stable Diffuion 논문을 리뷰해보도.. 2025. 2. 4. [Notable] GANs 의 주요 문제점: Mode Collapse 와 Training Instability ✅ 1. Mode Collapse (모드 붕괴)🚩 Mode Collapse란?Mode Collapse는 GAN의 생성자(Generator)가 데이터의 다양한 패턴을 학습하지 못하고, 제한된 패턴만 반복적으로 생성하는 현상을 의미합니다.예시:고양이 사진 데이터셋으로 학습시켰다면 다양한 고양이 이미지를 생성해야 합니다.그러나 Mode Collapse가 발생하면 생성자는 "한 가지 고양이 유형"만 반복적으로 생성하게 됩니다.🔍 왜 발생할까?GAN은 생성자(Generator)와 판별자(Discriminator)가 경쟁하는 구조입니다. 이 과정에서:생성자가 우연히 판별자를 잘 속이는 특정 패턴을 발견합니다.이 패턴을 반복해서 사용하면 판별자를 속일 수 있다고 학습합니다.결국 데이터의 다양성이 사라지고 특정 모.. 2025. 2. 4. [Notable] Explicit Representation VS Implicit Representation 1. Explicit Representation (명시적 표현)🔍 정의:Explicit Representation은 데이터를 직접적이고 구체적으로 표현하는 방식입니다.모델이 다루는 구조, 특성, 데이터 포인트 등이 명확한 형태로 정의됩니다.📊 예시:이미지 데이터: 픽셀 값으로 이루어진 RGB 이미지 각 픽셀의 색상, 위치가 정확하게 저장됨3D 모델링: 메쉬(Mesh) 기반 모델: 점(vertex)과 면(face)의 좌표가 명확하게 기록됨통계 모델: 가우시안 분포: 평균(μ)과 분산(σ²)이 명확하게 정의됨✅ 장점: 직관적이고 해석이 쉬움 데이터나 구조의 변경이 용이 명확한 수식 또는 규칙에 기반❌ 단점: 복잡한 데이터를 표현할수록 비용이 큼 (메모리, 계산량 증가) 고차원 데이터에서는 비효율적일 수 .. 2025. 1. 31. 이전 1 2 3 4 5 6 ··· 25 다음
