////
Search
Duplicate
💡

손실 함수 (Loss Function)

생성자
분류
인공지능
생성일
2023/02/16 14:02

Loss Function

손실 함수(Loss Function), 비용 함수(Cost Function) 은 동일한 의미로, 예측 값이 실제 값과 얼마나 유사한 지를 판단하는 기준이 되는 함수이다.
아래 그림을 보면서 이해해보자. 파란색 점이 우리가 가진 데이터이다. 이 때, 이 파란 점들을 가장 잘 보여주는 직선은 어떤 형태일까?
손실 함수는 여기서 파란 점과 흰색 선의 차이, 즉 주황 선을 최소화 하여 최적의 직선을 만들어 내기 위한 함수이다. 손실 함수는 데이터를 토대로 산출한 결과와 실제 값의 차이를 표현하는 지표이다. 손실함수의 결과에 따라 가중치와 편향을 조절하며 최적의 결과를 만들어 낸다.
손실 함수도 통계학적 모델에 따라 회귀와 분류에 쓰이는 함수가 다르다. 각 모델에 해당하는 손실 함수를 알아보자.
분류와 회귀? 분류는 이미 정의된 레이블 중 하나를 예측하는 것이고, 회귀란 연속적인 숫자를 예측하는 것이다. 꽃의 품종을 예척하는 것은 분류 문제이고, 조건을 활용해 사람의 몸무게를 예측하는 문제는 회귀 문제이다.

손실 함수 종류

회귀 타입

1) MAE(Mean Absolute Error)

MAE=1Ni=1nyi^yiMAE=\frac{1}{N}\sum_{i=1}^n \left\vert \hat{y_i} - y_i \right\vert
MAE는 예측 값과 정답 값 차이를 절대 값을 취한 모든 값을 더해 개수로 나누어 평균을 낸 값이다.

2) MSE(Mean Squared Error)

MSE=1Ni=1n(yi^yi)2MSE=\frac{1}{N}\sum_{i=1}^n (\hat{y_i} - y_i)^2

3) RMSE(Root Mean Square Error)

RMSE=1Ni=1n(yi^yi)2RMSE=\sqrt{\frac{1}{N}\sum_{i=1}^n (\hat{y_i} - y_i)^2}

분류 타입

1) Binary Cross-Entropy

2) Categorical Cross-Entropy

Reference