기타/Big Data (2) 썸네일형 리스트형 CNN(Convolutional Neural Network, 컨볼루션 신경망)알고리즘 이란 오늘은 cnn의 필요한 요소들과 작동 구조에 대해 알아보겠습니다. cnn은 필터링 기업으로 인공 신경망에 적용하여 이미지를 효과적으로 처리하는 기법입니다. 1989년에 나왔지만 기울기 소실과 하드웨어의 한계로 발전이 멈추었다가 이런 문제들이 해결되면서 현재의 발전된 모델까지 나왔습니다. Cnn은 다른 뉴럴 네트워크와 달리 모든 노드가 연결되어 있지 않다. Sequential data를 학습할 때 사용됩니다. Sequential data란 순서를 중요시하는 데이터로 Image, speech, text 데이터가 있습니다. 순서쌍 1,2와 2,1은 구성요소만을 본다면 같은 데이터입니다. 하지만 순서로 본다면 엄연히 다른 데이터이지요. 사람 얼굴을 본다고 했을 때 같은 모양의 코라 하더라도 일반적인 위치에 있는.. dropout, Batch normalization이란 딥 뉴럴 네트워크의 문제점은 크게 세 가지가 있습니다. 기울기 소실로 인해 학습이 잘되지 않는 문제 (이것은 활성화함수에 relu를 사용함으로써 해결할 수 있다.) 구조가 복잡해져 발생하는 과적합 문제 (earlystopping, weight decay, dropout을 통해 해결할 수 있다.) Internal covariate shift 문제 (batch normalization을 통해 해결할 수 있습니다. 오늘은 dropout과 batch normalization에 대해 알아보도록 하겠습니다. 1.dropout Dnn 구조가 복잡하다 보니 어떤 경우에는 학습이 되고 안 되는 경우가 있습니다. 가중치를 업데이트하다 보면 어떤 가중치는 큰 영향을 혹은 작은 영향을 줍니다. 때문에 같은 양의 책임이 부담되.. 이전 1 다음
