두 신호를 가르는 조건: N, SNR, 스냅숏

두 신호를 얼마나 가까이까지 가를 수 있는가? 이 물음에는 한 번의 계산으로 답할 수 없다. 같은 조건에서도 잡음에 따라 가르기도 하고 못 가르기도 하기 때문이다. 그래서 잡음을 바꾸어 여러 번 계산하고, 두 피크가 제자리에 따로 서는 비율을 각 차이의 함수로 그린다. 여기서 두 신호를 가른다는 것은 두 피크가 각각 실제 방향에서 각 차이의 절반 안에 서고, 둘 사이의 골이 낮은 피크의 절반(−3 dB) 아래로 내려가는 것을 말한다.

그림에서 ▶를 누를 때마다 잡음을 바꾼 시행 하나의 세 스펙트럼이 ①에 그려지고, 방법마다 갈랐는지가 ②에 점 하나로 쌓인다. 열 번 뒤에는 그 열 번의 비율이, 마지막에는 각 차이마다 300번 시행한 비율의 곡선이 ③에 나온다.

세기가 같은 두 신호를 정면 양쪽에 놓았다. ③의 가로축 Δθ는 두 신호의 각 차이, 세로축은 두 피크가 제자리에 따로 선 비율이고, 세로 점선이 빔의 첫 영점이다.

각 차이 5°에서 MUSIC은 처음 열 번 가운데 여덟 번을 가르지만, 300번으로 세면 비율이 0.48이다. 열 번으로 센 비율이 300번으로 센 비율과 0.32 차이가 나므로, 곡선은 각 차이마다 300번씩 시행해 그렸다. 안테나 8개, SNR 10 dB, 스냅숏 64개에서 열 번에 아홉 번 이상 가르는 가장 작은 각 차이는 Bartlett 20°, Capon 9–10°, MUSIC 6°이다. Capon은 9°에서 성공률이 0.91로 경계에 걸려 있어, 1000번 계산해도 9°인지 10°인지 정하지 못한다. Bartlett는 각 차이가 빔의 첫 영점 14.48°보다도 넓어야 가르는데, 골이 −3 dB 아래로 내려가야 하기 때문이다. Capon과 MUSIC은 빔폭보다 가까운 두 신호도 가르지만, 가를 수 있는 각 차이는 SNR과 스냅숏 수에 따라 바뀐다. SNR을 0 dB로 내리면 MUSIC은 11°, Capon은 16°가 되고, 20 dB로 올리면 4°와 6°가 된다. 스냅숏을 16개로 줄이면 MUSIC은 9°가 된다. 공분산 행렬을 덜 정확하게 추정하면 잡음 부공간이 흔들려 수직 관계가 흐려지기 때문이다. 안테나를 늘리면 세 방법이 모두 좋아져, 16개이면 Bartlett 10°, Capon 4°, MUSIC 3°이다.