[GoogleML] Setting up Machine Learning

 

 

 

Train / Dev / Test sets

다양한 hyperparams를 바꾸어가면서 반복적으로 실험 + 검증

 

 

 

과거 - 고정된 비율의 train / dev / test

현재 - 빅데이터 동향에 맞춰, 능동적으로 조절 (1%)

 

 

 

다른 환경에서 발생한 mix match

train과 test set의 분포가 동일하도록 !

test set? -> develop set이 더 적합한 용어이다.

 

 

 

Bias / Variance

bias - 오차

variance - 일반화

 

 

 

high / low variance & bias

train set error가 크다 -> 아직 학습이 덜 됨 (bias 높다) more iteration

train은 낮은데, test error가 크다 -> 일반화 능력 떨어짐, 오버피팅 상태 (variance가 높다)

둘 다 낮은 상태가 적합

둘 다 크다면? 모델 크기가 부적합

 

 

 

둘 다 크다면? 모델 크기가 부적합

 

 

 

Basic Recipe for Machine Learning

bias variance trade - off

high bias (언더피팅)

- 더 큰 모델 (params) 사용

- iteration, 더 학습시킨다

- or NAS 다른 아키텍처 서치

 

high variance (오버피팅)

- 더 많은 data

- 규제 regularization

- or NAS 다른 아키텍처 서치