이 글은 을 참고하여 만들어졌습니다.11.4 규제를 사용해 과대적합 피하기심층 신경망은 전형적으로 수만 개, 때로는 수백만 개의 파라미터를 가지고 있습니다. 이 때문에 네트워크의 자유도가 매우 높습니다. => 즉, 대규모의 복잡한 데이터셋을 학습할 수 있다는 뜻입니다. 하지만 이런 높은 자유도는 네트워크를 훈련 세트에 과대적합되기 쉽게 만듭니다. (즉, 규제가 필요합니다) 10장에서 이미 최상의 규제 방법 중 하나인 조기 종료를 구현했습니다.또한 배치 정규화는 불안정한 그레이디언트 문제를 해결하기 위해 고안되었지만 꽤 괜찮은 규제 방법으로도 사용할 수 있습니다.=> l1과 l2 규제, 드롭아웃(dropout), 맥스-노름(max-norm) 규제 11.4.1 l1과 l2 규제 간단한 선형 모델에 했던 것처..
