Page 34 -

6.1.5 기대 벌금

가장 좋은 추정량을 결정하기 위한 평가 기준은 여러 가지로 생각할 수 있습니다. 그중에서도 다
2
루기 쉽고 흔히 쓰이는 것이 ‘정답이 a인데 b라고 추정하면 벌금이 b 2 a 원’이라는 제곱 오차
입니다（·는 벡터의 길이). 정답 a와 추정 b가 떨어져 있을수록 벌금은 커지고, 정확히 일치하
면 벌금은 0입니다. 제곱 오차는 작을수록 좋다고 합니다.

ˆ
2
그러나 이 평가 기준을 현재 이야기에 맞춰 벌금 θ(X) 2 θ 을 구하려고 하면 다음 사항이 문
제가 됩니다.

● 벌금은 운에 따라 변한다.
● 벌금은 정답에 따라 변한다.

우선 벌금이 운에 따라 변하는 것에 대해 이야기해봅시다. 데이터 X가 운에 따라 변할 테니 추정
ˆ
량 θ(X)도 변하고 벌금도 변합니다. 몇 번이나 확인해왔던 대로입니다. 이에 대해서는 기댓값으
로 벌금이 결정됩니다. 즉, 기대 벌금

ˆ
이 가능한 한 작아지는 추정량 θ를 목표로 합니다.
또 다른 경우인 벌금이 정답에 따라 변하는 문제에 대해서는 다음 절에서 논의합니다.

예제 6.1
ˆ ˆ(θ)는 각각 변하는 값(확률변수), 변하지 않는 값(단순한 수나 벡터) 중 무엇인가요?
X, θ, θ(X), R θ

답
ˆ ˆ(θ)는 변하지 않는 값입니다.
X와 θ(X)는 변하는 값이고, θ와 R θ

6.1.6 다목적 최적화

ˆ(θ)는 정답 θ에 따라 달라집니다. 추정하는 사람은 정답을 모르기 때문에(그러니
기대 벌금 R θ
추정을 하고 있죠) 이래서는 기대 벌금을 계산할 수 없습니다. 할 수 있는 것은 ‘혹시 정답이 이

렇다면 기대 벌금은 이와 같고, 정답이 이렇다면 기대 벌금은 이와 같다’는 식의 이야기뿐입니

298

06 프로그래머를 위한 확률통계.indd 298 2019. 4. 25. 오전 11:41