[GoogleML] Practical Advice for Using ConvNets

 

 

 

Using Open-Source Implementation

git-hub을 통해 repo 다운로드 받기 

오픈소스로 구현된 네트워크 다운받기

 

 

 

Transfer Learning

전이학습

동결방식 

training set 데이터 수가 부족할 때, 

이미 학습된 네트워크에서 뒷단 softmax 부분을 제거 

new 분류기를 붙여서 학습시킨다. 

앞의 네트워크는 freeze (잘 학습된 weight를 그대로 사용) 

 

 

 

training이 조금 더 많다면 

더 많은 layer를 학습할 수 있다

freeze layer를 줄일 수 있다

 

open source 이미 학습된 weight를 다운로드 받고,

원하는 부분만 선택적으로 학습시킬 수 있는 전이 학습

large computational cost를 줄일 수 있다

 

 

 

Data Augmentation

데이터를 증가시키는 다양한 기법이 있다

 

 

 

보다 color에 roburstness하게 만들 수 있다

햇빛이 바뀌더라도, 고양이 shape이 유지되도록 

 

 

 

PCA color augmentation 

 

 

 

학습 과정과 data 처리 과정이 parallel하게 진행될 수 있다

 

 

 

State of Computer Vision

많은 labeled data가 없다면, hand engineering에 보다 더 의존

 

 

 

앙상블 or test + crop

추가적인 computational cost 은 고려해야 함

 

 

 

바닥부터 짤 computing이 없다면 

오픈소스로 이미 학습된 것을 활용하는 것도 좋다