PCA , SVD

PCA & SVD
목차
PCA (주성분 분석)
SVD (특이값 분해)
Relationship between PCA and SVD
PCA (주성분 분석)
주성분 분석(PCA)은 고차원 데이터의 차원을 축소하는 데 사용되는 통계적 기법이다. PCA의 주요 목적은 데이터의 변동성이 가장 큰 방향으로 새로운 좌표계를 생성하여, 데이터의 주요 특징을 보존하면서 차원을 줄이는 것이다. 이 과정에서 데이터의 변동성을 가장 잘 설명하는 주성분을 찾아내는 것이 핵심이다. PCA의 기본적인 아이디어는 다차원 데이터의 각 차원이 서로 독립적이지 않다는 점에서 출발한다. 즉, 여러 차원에서 데이터를 측정할 경우, 각 차원 간의 상관관계가 존재하게 된다. PCA는 이러한 상관관계를 분석하여 데이터의 변동성이 큰 방향으로 직교하는 축을 생성함으로써, 데이터의 구조를 간단하게 파악할 수 있도록 돕는다. 이를 통해 우리는 고차원 데이터의 복잡성을 줄이고 시각화할 수 있는 기회를 얻게 된다. PCA의 첫 단계는 데이터의 평균을 제거하는 것이다. 각각의 데이터 포인트에서 데이터 집합의 평균을 빼 내면, 원점 중심의 데이터 분포를 갖게 된다. 이 단계는 데이터를 변환하고…(생략)