24.07.31 pre-trained CNN

Modern CNNs

• LeNet
• AlexNet
• VGG
• GoogleNet(Inception)
• ResNet
• DensNet
• U-Net (medical imaging)

ImageNet 

ImageNet experiments

(Human performace: 5.1%) 

 

 

LeNet

• LeCun, Y (1998). Gradient-based learning applied to document recognition 
• CNN 구조 등장

AlexNet

• Alex, Hinton (2012) 
• Structure 
  • ReLU
  • Dropout
  • Data argmentation (overfitting 줄임)

VGG-16/19

• Oxford (2014)
• Very Deep - 여기까진 layer의 깊이를 깊게해서 성능을 높이는 원리

Inception(Google) Net

• Multiple branches (convolutional layer를 다양한 branches로)

 

ResNet (Deep Residual Net)

• Facebook에서 개발 (2016)
• Skip connection 컨셉 (residual 학습)

DenseNet

• Skip connection을 한 단계가 아닌 여러가지 level에서 진행

 

U-Net

 

(모든 구조에 대해 자세히 알기보단 이미지 분석에서 유명한 CNN 모델로 이정도가 있다, 어떤 특정이 각각 있다 정도 이해하기)