학습률(Learning Rate)과 그 중요성1. 학습률(Learning Rate)란?딥러닝에서 학습률(learning rate)은 신경망이 가중치를 업데이트하는 속도를 조절하는 중요한 하이퍼파라미터입니다. 학습률이 너무 크면 최적의 해를 찾지 못하고 진동하거나 발산할 수 있으며, 반대로 너무 작으면 학습이 느려지고 지역 최적점(local minimum)에 갇힐 위험이 있습니다.학습률은 다음과 같은 경사 하강법(Gradient Descent) 알고리즘에서 사용됩니다.$$ w_{new} = w_{old} - \eta \nabla L(w) $$여기서,$ w $ : 모델의 가중치$ \eta $ : 학습률$ \nabla L(w) $ : 손실 함수의 기울기(gradient)즉, 학습률은 신경망이 기울기의 방향으로..
