라벨이 부족할 때: 구조와 학습 신호
라벨이 부족하거나 비쌀 때, 라벨 없는 레이다 데이터에서 무엇을 배울 수 있는가?
레이다 라벨은 왜 부족한가
지도학습은 강력하지만 라벨이 있어야 한다는 근본 제약이 있다. 현실의 레이다 데이터에서 라벨을 얻는 일은 비싸거나 불가능할 때가 많다.
| 상황 | 문제 | 비지도학습의 역할 |
|---|---|---|
| 라벨 없음 | 실측 레이다 데이터는 대부분 모으기만 하고 라벨이 없다 | 라벨 없이 데이터의 구조와 무늬를 찾는다 |
| 라벨이 비쌈 | 전문가 검수, 실측 실험, 법적 제약 때문에 라벨 비용이 높다 | 적은 라벨과 많은 무라벨 데이터를 함께 쓴다 |
| 이상 탐지 | 정상은 많고 이상(anomaly)은 드물어 라벨 불균형이 심하다 | 정상 분포를 배우고, 거기서 벗어난 것을 이상으로 본다 |
| 탐색적 분석 | 어떤 무늬가 있는지 미리 알지 못한다 | 군집화로 숨은 구조를 찾는다 |
레이다에서는 반사점 하나가 어떤 물체에서 왔는지 신호만으로 판단하기 어렵다. 거리, 속도, 각도와 표적 종류를 확인하려면 측정 조건을 기록하고 전문가가 검수해야 한다. 드문 표적이나 위험한 상황은 모으는 것부터 어렵다.
다른 센서로 라벨을 만드는 방법(sensor-assisted supervision)은 카메라나 LiDAR의 정보로 이 비용을 줄인다. 다만 센서 사이의 시간 동기화, 좌표 정합, 가림 때문에 라벨 오류가 생길 수 있어 검수가 필요하다. 검수한 라벨은 적고 라벨 없는 레이다 신호가 많다면 아래 방법을 함께 고려한다.
레이다에서의 비지도학습
가우시안 혼합 모델(Gaussian mixture model, GMM)은 레이다 클러터의 복잡한 통계 분포를 여러 가우시안의 합으로 근사한다. 라벨 없이 EM 알고리즘으로 학습하고, 이후 CFAR의 클러터 모델(14장)이나 이상 탐지의 기준선으로 쓴다.
이상 탐지(anomaly detection)는 정상 레이다 신호의 분포를 배운 뒤, 그 분포에서 벗어난 신호를 이상으로 본다. 라벨이 필요한 것은 "정상" 데이터뿐이고, 어떤 이상이 올지 미리 알 필요가 없다. 재밍 신호, 하드웨어 오작동, 모르는 표적 유형을 찾는 데 쓴다.
PCA는 비지도학습의 대표적인 예이다. 고차원 레이다 특징 벡터를 저차원으로 압축해 시각화하거나, 잡음 성분을 없애고 주된 변동 방향을 뽑는다. t-SNE는 비선형 차원 축소로, 고차원의 클러터와 표적 군집을 2차원에서 보는 데 쓸모 있다.
군집화: k-means
k-means는 데이터를 개의 군집으로 나누는 가장 기본적인 비지도학습 알고리즘이다. 할당(E-step)과 중심 갱신(M-step)을 수렴할 때까지 되풀이한다.
| 레이다 적용 | 군집의 뜻 | 쓰임 |
|---|---|---|
| 표적 묶기 | 속도와 거리가 비슷한 point cloud 점을 물체 하나로 묶는다 | 여러 반사점 → 표적 하나의 추적 |
| RCS 무늬 분류 | RCS 시계열 무늬가 비슷한 표적의 군집 | 표적 유형 구분(사람, 차량, 드론) |
| 클러터 분류 | 클러터의 세기와 Doppler 성질에 따른 군집 | 환경에 맞춘 적응형 CFAR 파라미터 |
k-means에는 한계가 셋 있다. 를 미리 정해야 하므로 elbow 방법이나 실루엣 지수로 알맞은 를 추정한다. 군집이 구형(spherical)이 아니거나 크기가 크게 다르면 성능이 떨어진다. 초기 중심에 민감하므로 k-means++ 초기화로 이를 줄인다.
오토인코더: 인코더, 병목, 디코더
오토인코더(autoencoder)는 입력을 저차원 표현(latent space)으로 압축한 뒤 원래 입력으로 되살리는 신경망이다. 라벨 없이 입력 자체가 정답이 되므로 비지도학습이다.
그림은 표적 하나가 있는 거리 프로파일(range bin 32개)을 오토인코더에 넣는다. ▶를 누를 때마다 인코더가 병목의 표현 를 만들고, 디코더가 에서 되살린 를 입력 위에 겹치고, 둘의 차이가 복원 오차가 된다. 슬라이더로 병목의 크기 를 바꾼다.
인코더와 디코더는 선형이고, 가중치는 가상의 학습 프로파일 300개의 주성분이다. z 그래프의 회색 칸은 쓰지 않는 병목 자리이다.
선형 오토인코더에서 복원 오차를 가장 작게 하는 가중치는 학습 데이터의 주성분 개가 펼치는 공간이다(Baldi와 Hornik, 1989). 그래서 그림은 경사 하강 대신 그 해를 바로 계산해 쓴다. 이 프로파일의 복원 오차는 에서 0.902, 에서 0.232, 에서 0.091이고, 의 0.031은 잡음만의 크기()에 가깝다.
병목(bottleneck)의 차원 가 입력 차원보다 훨씬 작으면 신경망은 정보를 압축할 수밖에 없고, 모든 정보를 담을 수 없으므로 복원에 가장 중요한 구조적 특징만 latent space에 남는다. 이처럼 데이터에서 쓸모 있는 표현을 스스로 얻는 것을 표현 학습(representation learning)이라 한다.
| 변형 | 생각 | 효과 |
|---|---|---|
| denoising autoencoder | 입력에 잡음을 더하고 원본을 되살리도록 학습한다 | 잡음에 강건한 표현, 레이다 신호의 잡음 제거 |
| variational autoencoder(VAE) | latent space를 확률 분포 로 모델링한다 | 연속적이고 뜻 있는 latent space, 새 샘플 생성 |
| sparse autoencoder | latent 활성화에 희소성(sparsity) 제약을 준다 | 해석할 수 있는 특징을 찾는다 |
정상 레이다 신호만으로 오토인코더를 학습하면 이상 탐지기가 된다. 정상 신호는 복원 오차가 작지만, 이상 신호(재밍, 모르는 표적, 하드웨어 오류)는 학습한 표현으로 되살리기 어려워 복원 오차가 크다.
이 방법은 이상의 종류를 미리 정하지 않아도 되고, 학습 때 보지 못한 이상도 복원 오차로 찾을 수 있다. 다만 모든 이상이 큰 오차를 보이지는 않으므로, 정상 데이터의 변동과 있을 수 있는 이상 사례로 임계값을 확인한다.
오토인코더는 압축과 특징 추출에도 쓴다. 3차원 레이다 데이터 큐브를 저차원 표현으로 압축해 저장과 전송을 줄인다. 학습한 인코더를 동결한 뒤 latent 벡터 를 후속 분류기(표적 인식, 행동 인식)의 입력으로 쓰면, 라벨이 적을 때 효과적이다.
자기지도학습: 데이터에서 학습 신호 만들기
자기지도학습(self-supervised learning)은 라벨 없이 데이터 자체에서 학습 신호(supervision signal)를 만드는 방법이다. 비지도학습과 지도학습의 중간으로, 풍부한 무라벨 데이터로 좋은 표현을 먼저 배우고 이후 적은 라벨로 미세조정(fine-tuning)한다.
pretext task는 데이터에서 자동으로 만들 수 있는 인위적인 예측 문제이다. 이 문제를 잘 풀려면 데이터의 뜻 있는 표현을 배워야 한다.
| pretext task | 입력 | 예측 대상(자동 생성) | 배우는 표현 |
|---|---|---|---|
| 회전 각도 예측 | 회전한 영상 | 0°/90°/180°/270° 가운데 어느 것인가 | 방향과 형태 |
| 가린 패치 복원 | 일부를 가린 영상 | 가린 영역의 픽셀값 | 공간 문맥 |
| 시간 순서 예측 | 섞은 프레임 시퀀스 | 올바른 순서 | 시간에 따른 변화 |
| 레이다 SNR 예측 | RD 맵 패치 | 그 패치의 SNR 구간 | 신호 세기와 구조 |
대조 학습
대조 학습(contrastive learning)은 자기지도학습의 대표적인 방법으로, 같은 샘플에서 나온 두 증강(augmented) view는 표현 공간에서 가깝게, 다른 샘플에서 나온 view는 멀게 배운다.
그림은 샘플 A, B, C에 증강을 두 가지씩 적용한 view 여섯 개의 표현을 단위원 위에 놓고, ▶마다 NT-Xent 손실을 줄이는 갱신을 한 번 한다. 화살표는 다음 갱신에서 각 view가 움직일 방향이고, 손실은 오른쪽 곡선에 단계마다 찍힌다.
표현은 2차원 단위 벡터이고, 인코더 대신 그 각도를 직접 갱신했다. τ = 0.5, 학습률은 0.6이다.
처음에는 A1과 A2의 유사도가 0, B1과 B2의 유사도가 −0.87이다. 갱신을 거듭하면 같은 샘플의 두 view가 모여 유사도가 1에 가까워지고, 세 샘플은 원 위에서 서로 멀어진다. 손실은 2.97에서 10단계 뒤 0.19로 줄어든다.
SimCLR(Chen et al., 2020)은 대조 학습의 대표적인 틀이다.
- 미니배치의 각 샘플에 증강 두 가지를 적용해 view 개를 만든다.
- 공유한 인코더 로 표현을 뽑는다.
- 작은 projection head 로 대조 손실을 계산할 공간에 옮긴다.
- NT-Xent 손실을 줄인다. positive pair는 가깝게, 나머지 개는 negative로 멀게 한다.
여기서 는 temperature 파라미터이고, 은 코사인 유사도이다. 이 는 왕복 지연과 다른 기호이다.
| 구성 요소 | 레이다 적용 | 설명 |
|---|---|---|
| positive pair | SNR과 클러터 조건이 다른 같은 표적 | 같은 표적이 환경이 달라도 같은 표현을 갖도록 배운다 |
| negative pair | 다른 표적 또는 클러터 | 표적 유형이 다르면 표현 공간에서 멀게 한다 |
| 증강 | SNR 변화, 클러터 수준 변화, 표적 속도 변화, 가우시안 잡음 추가 | 레이다 물리에 바탕을 둔 현실적인 증강 |
| 미세조정 | 사전학습한 인코더 + 적은 라벨의 분류기 | 필요한 라벨 수와 성능은 데이터와 문제에 따라 다르다 |
실제 레이다 데이터에서 "표적 A"임을 확인한 라벨 데이터 1,000개를 모으려면 실측 실험, 장비 비용, 전문가 검수가 든다. 반면 라벨 없는 데이터는 레이다를 켜기만 하면 수백만 프레임을 얻는다. 자기지도 사전학습으로 이 무라벨 데이터를 쓰면 적은 라벨만으로 강력한 분류기를 만들 수 있다.
강의 노트