대학원 일기

손실 함수(Loss function) 손실 함수는 정답 레이블과 예측값과의 차이인 로스(loss)를 구하는 함수이다. 손실 함수를 부르는 명칭은 목적 함수(objective function), 에러 함수(error function) 등이 있다. 인공신경망의 목표는 정답 레이블과 예측값을 최소화하는 것이다. 손실 함수는 로스(loss)를 최소화하는 방향으로 가중치를 업데이트하며 진행된다. 이밖에도, 모델의 성능 평가나 과적합(over fitting)을 감지하는데 사용한다. 일반적으로 분류 문제에서 손실 함수는 크로스 엔트로피(cross-entropy, CE)를 사용하고, 회귀 문제에서는 평균 제곱 오차(mean sqeared error, MSE) 또는 평균 절대 오차(mean absolute error, ..