비즈니스 비용 매칭되는 metric 고르기
MAE(mean absolute error)는 평균 error magnitude. RMSE(root mean squared error)는 큰 error를 quadratic으로 처벌. R²는 explained variance 비율, dataset 사이 비교 가능 but unitless. 작고 큰 error가 비례적으로 아프면 MAE, 큰 error가 훨씬 더 아프면 RMSE, 매우 다른 문제 사이 비교 metric 필요하면 R².
대칭 vs 비대칭 비용
많은 실제 문제가 비대칭 error 비용. 재고 너무 적게 예측하면 잃은 매출 비용, 너무 많이는 storage 비용. MAE가 비대칭 잡는다고 가장 말고, asymmetry mirror 하는 quantile regression이나 custom loss를 써.
MAPE 경고
Mean absolute percentage error(MAPE)가 직관적이지만 target이 0 근처거나 0 있을 때 심하게 깨져. stakeholder가 % 고집하면 SMAPE, weighted MAPE, 또는 원 unit의 absolute error를 써.