가설 검정과 Neyman–Pearson 임계값

표적이 있는지 어떻게 판정하는가? 두 가설을 세운다. $H_0$은 셀에 잡음만 있다는 가설이고, $H_1$은 표적이 있다는 가설이다. 탐지기는 $r>T$이면 $H_1$, 아니면 $H_0$을 고른다. 이때 두 확률이 정해진다.

$P_{FA}$는 false alarm 확률(probability of false alarm), $P_D$는 탐지 확률(probability of detection)이다. 미탐지 확률은 $1-P_D$이다. $T$를 낮추면 $P_D$가 오르지만 $P_{FA}$도 오른다.

레이다는 false alarm에 드는 비용이 크다. false alarm 하나가 추적기와 운전자에게 가짜 표적을 넘기기 때문이다. 그래서 먼저 $P_{FA}$를 정해 두고, 그 안에서 $P_D$가 가장 큰 판정을 고른다. 이것을 Neyman–Pearson 기준이라 한다. 이 기준을 만족하는 판정은 우도비 $p(r|H_1)/p(r|H_0)$를 임계값과 비교하는 것이다. 이 우도비는 $r$이 클수록 커지므로, 우도비를 비교하는 것은 $r$을 $T$와 비교하는 것과 같다. Rayleigh 분포는 꼬리의 적분이 닫힌 형태로 나오므로 $T$를 바로 구한다.

$P_{FA}=10^{-6}$이면 $T=5.257\sigma_n$, $10^{-4}$이면 $4.292\sigma_n$이다. 임계값은 잡음 전력만으로 정해지고 표적과는 무관하다. $P_D$는 Rician 분포의 꼬리 적분이고, 이 적분을 Marcum Q 함수 $Q_1(A/\sigma_n,T/\sigma_n)$라 부른다. Marcum Q 함수는 닫힌 형태가 없어 수치로 셈한다.

그림에서 ▶를 누를 때마다 ①에 H0의 밀도, 임계값, H1의 밀도, $P_D$의 면적이 하나씩 더해진다. ②와 ③은 다음 두 절에서 쓴다.

σ_n = 1이고, 짙은 남색 곡선이 H0, 보라 곡선이 H1의 밀도이다. 붉은 띠는 P_FA, 초록 띠는 P_D의 면적이며, P_FA = 10⁻⁶의 띠는 너무 얇아 거의 보이지 않는다.