Connecting dots via Data

AutoEncoder는 아래 그림과 같이 입력 데이터를 축소한 은닉 레이어를 만들고 이것을 다시 복원하여 출력 데이터를 입력 데이터와 같에 만드는 신경망 모델이다. Label이 따로 존재하지 않고 입력 데이터를 Label처럼 이용한다는 점에서 비지도 학습(Unsupervised Learning)이라고 할 수 있다. AutoEncoder는 입력 데이터를 축소하면서 좀 더 추상적이고 특징을 함축하는 encoder부분과 이것을 바탕으로 입력 데이터로 복원하는 decoder부분으로 구성되어 있으며, 단순히 입력 데이터를 복사하는 것을 방지하기 위해 여러가지 정규화 기법(regularization)을 사용한다. 이 정규화 기법에는 Sparse, Denoising, Contractive 방법이 있으며 이들은 분류 ..