상세 컨텐츠

본문 제목

Weight Regularization: L1 Norm, L2 Norm

Coding

by linguana 2021. 5. 28. 14:57

본문

케라스 창시자에게 배우는 딥러닝, p. 156.

L1 규제: 가중치의 절댓값에 비례하는 비용이 추가됩니다. (가중치의 L1 노름(norm))

L2 규제: 가중치의 제곱에 비례하는 비용이 추가됩니다. (가중치의 L2 노름(norm))

 

zp

src: 정규화와 L1 및 L2 표준 시각화 (ichi.pro)

'Coding' 카테고리의 다른 글

sigmoid function  (0) 2021.06.03
ARIMA  (0) 2021.05.31
Presentation Archive  (0) 2021.05.28
Backpropagation by hand  (0) 2021.05.26
Optimization  (0) 2021.05.25

관련글 더보기