본문 바로가기

😎AI/Terminology6

[Notable] Low Temperature Samples Low Temperature Samples는 생성 모델에서 샘플 품질을 높이고 다양성을 줄이는 기법입니다.주로 확률 분포의 "샘플링 온도(temperature)"를 조절하여 생성 결과에 영향을 줍니다. 1. "Temperature"의 의미Temperature는 확률 분포의 "날카로움(sharpness)" 또는 "불확실성(uncertainty)"을 조절하는 하이퍼파라미터입니다.수학적으로는 소프트맥스(softmax) 함수에서 자주 사용됩니다:여기서:T = temperature (온도)zi = 로짓(logit) 값 (모델이 예측한 점수)P(xi) = 최종 확률 2. Temperature의 영향높은 온도 (T≫1)확률 분포가 **평평(flat)**해지고, 더 다양한 샘플이 생성됨모델이 불확실한 선택을 더 많이 .. 2025. 2. 5.

[Notable] Evaluation Metrics 해당 글은 chatGPT 로 작성된 글 입니다. 2025. 2. 4.

[Notable] GANs 의 주요 문제점: Mode Collapse 와 Training Instability ✅ 1. Mode Collapse (모드 붕괴)🚩 Mode Collapse란?Mode Collapse는 GAN의 생성자(Generator)가 데이터의 다양한 패턴을 학습하지 못하고, 제한된 패턴만 반복적으로 생성하는 현상을 의미합니다.예시:고양이 사진 데이터셋으로 학습시켰다면 다양한 고양이 이미지를 생성해야 합니다.그러나 Mode Collapse가 발생하면 생성자는 "한 가지 고양이 유형"만 반복적으로 생성하게 됩니다.🔍 왜 발생할까?GAN은 생성자(Generator)와 판별자(Discriminator)가 경쟁하는 구조입니다. 이 과정에서:생성자가 우연히 판별자를 잘 속이는 특정 패턴을 발견합니다.이 패턴을 반복해서 사용하면 판별자를 속일 수 있다고 학습합니다.결국 데이터의 다양성이 사라지고 특정 모.. 2025. 2. 4.

[Notable] Explicit Representation VS Implicit Representation 1. Explicit Representation (명시적 표현)🔍 정의:Explicit Representation은 데이터를 직접적이고 구체적으로 표현하는 방식입니다.모델이 다루는 구조, 특성, 데이터 포인트 등이 명확한 형태로 정의됩니다.📊 예시:이미지 데이터: 픽셀 값으로 이루어진 RGB 이미지 각 픽셀의 색상, 위치가 정확하게 저장됨3D 모델링: 메쉬(Mesh) 기반 모델: 점(vertex)과 면(face)의 좌표가 명확하게 기록됨통계 모델: 가우시안 분포: 평균(μ)과 분산(σ²)이 명확하게 정의됨✅ 장점: 직관적이고 해석이 쉬움 데이터나 구조의 변경이 용이 명확한 수식 또는 규칙에 기반❌ 단점: 복잡한 데이터를 표현할수록 비용이 큼 (메모리, 계산량 증가) 고차원 데이터에서는 비효율적일 수 .. 2025. 1. 31.

[Notable] Differentiable image parameterization, DIP https://distill.pub/2018/differentiable-parameterizations/ Differentiable Image ParameterizationsA powerful, under-explored tool for neural network visualizations and art.distill.pub Differentiable image parameterization은 이미지 생성 및 최적화 과정에서 이미지를 파라미터화(매개변수화)하여 미분 가능한 형태로 변환하는 기법입니다.이를 통해 이미지 생성 또는 수정의 과정에서 미분 가능성을 유지하면서 최적화를 수행할 수 있습니다.주로 신경망 모델에서 이미지 생성, 변형, 복원 등의 작업을 하면서, 모델이 이미지에 대한 정보를 업데이트할.. 2025. 1. 21.

[Notable] NeRF vs Voxel vs Mesh 1. NeRF (Neural Radiance Fields)의 장점:세밀한 디테일: NeRF는 볼륨 렌더링을 사용하여 매우 세밀한 장면을 생성할 수 있습니다. 이를 통해 복잡한 조명 효과, 디테일한 질감, 모든 방향에서의 렌더링에서 뛰어난 품질을 얻을 수 있습니다. 특히, 빛의 반사와 굴절 등 물리적 상호작용을 세밀하게 모델링할 수 있다는 점에서 고해상도의 사실적인 결과를 얻을 수 있습니다.연속적인 표현: NeRF는 3D 공간을 연속적인 밀도와 색상 값으로 모델링합니다. 이 방식은 3D 장면을 디지털화할 때 부드럽고 자연스러운 전환을 가능하게 하여 더 고급스러운 시각적 효과를 제공합니다.고품질 렌더링: NeRF는 이미지 기반의 3D 합성에서 매우 사실적인 결과를 제공합니다. 특히 사진처럼 자연스러운 조명과.. 2025. 1. 21.

이전 1 다음

티스토리툴바