- Global Minima: 비용 함수(Cost Function)에서의 에러가 최소가 되는 지점(우리가 찾고자 하는 지점)
- Local Minima: 에러가 최소가 될 수 있는 후보가 되는 지점 중 Global Minima가 아닌 지점
- Local Minima는 ‘에러가 최소가 되는 지점을 찾았다고 착각’ 하는 것이라고 비유될 수도 있음
→ 이를 해결하기 위해 Momentum과 같은 최적화 알고리즘을 사용하거나 학습률(Learning Rate)을 조절할 수 있음