[객체 검출] 앵커 박스(Anchor Box)란 무엇인가? | 객체 검출 모델에서의 역할과 한계

객체 검출(Object Detection) 모델에서는 이미지 속 객체의 위치와 크기를 예측해야 한다. 이때 사용되는 중요한 개념 중 하나가 앵커 박스(Anchor Box)이다.

---

 

1. 앵커 박스란?

 

앵커 박스는 이미지의 각 위치에 미리 정의된 여러 크기와 비율의 바운딩 박스를 의미한다. 모델은 이 앵커 박스를 기준으로 실제 객체의 위치와 클래스 정보를 예측한다. 다양한 크기의 객체를 효과적으로 탐지하기 위해 여러 개의 앵커 박스를 각 위치마다 배치하는 방식이다.

 

2. 앵커 박스의 원리와 사용 방식

객체 검출 모델은 각 앵커 박스에 대해 두 가지를 예측한다.

• 해당 박스에 어떤 클래스가 존재하는지
• 해당 박스를 어떻게 조정해야 실제 객체의 위치와 맞출 수 있는지

이때, 예측된 바운딩 박스가 실제 객체의 바운딩 박스와 얼마나 겹치는지를 평가하기 위해 IoU(Intersection over Union) 지표를 사용한다.

예시로 보는 학습 과정

1. 사전 정의된 앵커 박스 생성
   이미지의 각 위치에 대해 다양한 크기와 비율의 앵커 박스가 사전에 정의된다. 예를 들어, 3개의 크기와 3개의 비율을 사용하면 한 위치당 9개의 앵커 박스가 생성된다.
2. 실제 객체와의 매칭
   학습 중 모델은 앵커 박스와 실제 객체의 바운딩 박스 간의 IoU를 계산하고, IoU가 가장 높은 앵커 박스를 해당 객체에 할당한다.
3. 클래스 및 위치 학습
   매칭된 앵커 박스는 실제 객체의 클래스를 예측하도록 학습되며, 동시에 바운딩 박스 좌표를 실제 객체의 위치에 맞게 조정하는 방법도 학습한다.
4. 손실 함수 계산
   모델이 예측한 클래스와 위치가 실제 값과 얼마나 차이 나는지를 바탕으로 손실(loss)을 계산한다. 일반적으로 클래스 예측에는 Cross-Entropy Loss, 바운딩 박스 예측에는 L1 Loss 또는 GIoU Loss를 사용한다.
5. 모델 업데이트
   손실 값에 따라 모델의 파라미터를 업데이트하며, 이를 반복하면서 더 정확한 예측이 가능해진다.

 

3. 앵커 박스의 장단점

장점

• 다양한 크기의 객체 처리에 유리하다.
• 다중 스케일 예측을 통해 검출 성능을 향상시킬 수 있다.

단점

• 설정이 복잡하다.
  적절한 크기, 비율, 개수를 설정해야 하며, 이는 실험적으로 조정해야 한다.
• 연산 비용이 높다.
  모든 위치에서 여러 개의 앵커 박스를 처리해야 하므로 계산량과 메모리 사용량이 크다.
• 후처리가 필요하다.
  중복된 예측을 제거하기 위해 NMS(Non-Maximum Suppression) 같은 후처리 과정이 필요하다.

 

4. 앵커 박스를 사용하는 대표적인 객체 검출 모델

• Faster R-CNN
  Region Proposal Network(RPN)에서 앵커 박스를 사용하여 후보 영역을 생성하고, 이를 기반으로 객체를 검출한다.
• YOLOv3
  이미지의 각 그리드 셀에서 미리 정의된 앵커 박스를 기준으로 객체를 예측한다.
• RetinaNet
  다양한 크기와 비율의 앵커 박스를 기반으로 예측을 수행하며, Focal Loss를 통해 작은 객체 및 클래스 불균형 문제를 해결한다.

---

 

최근에는 앵커 박스를 사용하지 않는 DETR(Detection Transformer)와 같은 모델도 등장하고 있다. DETR는 복잡한 앵커 설정이나 NMS 없이도 객체를 end-to-end 방식으로 예측할 수 있는 새로운 접근 방식을 제시한다.

 

[객체 검출] DETR 모델 완전 정복하기 !! | Object Detection | 객체 검출 트렌드 공부하기