손실함수 정리

회귀 모델: MSE, MAE, RMSE

분류 모델: Binary Cross-Entropy, Categorical Cross-Entropy

---

MAE 장점: 학습 정도를 쉽게 파악할 수 있다.

MAE 단점: 최적화 할때, 이동거리가 일정하기 때문에 최적값에 수렴하기 어렵다.

MSE 장점: MAE와 다르게 최적값에 가까워질수록 이동값이 바뀌어 최적값에 수렴하기 용이하다.

MSE 단점: 값을 제곱하기 때문에 절댓값이 1미만인 값은 더 작아지고, 1보다 큰 값은 더 커지는 왜곡이 발생할 수 있고 특이값의 영향을 많이 받는다

MAE, MSE

---

교차 엔트로피는 두 가지 확률 분포가 얼마나 비슷한지를 수리적으로 나타내는 개념이다.

log예측 확률 *실제 확률