[VXLAN] VXLAN 전송 방식 (Multicast vs Unicast)

VXLAN은 Overlay 네트워크를 구현하기 위해 BUM(Broadcast, Unknown-unicast, Multicast) 트래픽을 처리할 수 있어야 합니다. 전통적인 이더넷 환경에서는 단순히 브로드캐스트/플러딩으로 해결되던 문제가, VXLAN에서는 Overlay 상의 여러 VTEP 사이에 효율적으로 전송되어야 하는 과제가 됩니다. 이를 해결하기 위한 두 가지 방식이 바로 `Multicast`, `Unicast(Head-end Replication, HER)` 방식 입니다.

 

Multicast 기반 VXLAN 전송

Multicast 기반 전송은 가장 초기 VXLAN 표준(RFC 7348)에서 정의된 방식으로 BUM트래픽 발생 시 Multicast를 이용해 VTEP간 트래픽을 전송합니다.

• 목적
  • Multicast을 이용해 Remote VTEP 발견합니다.
  • BUM(Broadcast, Unknown Unicast, Multicast) 트래픽 전송을 위해 Multicast 그룹을 활용합니다.
  • Multicast를 사용하면 Layer 2 Flooding 범위를 감소 시킬 수 있습니다. → BUM Traffic이 발생 시 멀티캐스트 그룹으로만 트래픽 전송
• 동작 원리
  • 각 VNI(VXLAN Network Identifier)는 특정 Multicast 그룹과 매핑됩니다.
  • VTEP은 브로드캐스트 또는 ARP 요청 등 BUM 트래픽이 발생하면, 해당 VNI에 매핑된 Multicast 그룹 주소로 패킷을 전송합니다.
  • Multicast Group에 가입한 모든 VTEP은 이 패킷을 수신하고, 디캡슐레이션 후 Overlay 상의 동일 VNI 내 로컬 네트워크(VM/서버)로 재전송합니다.
  • Multicast를 통한 Flooding으로 원격 호스트들의 MAC 주소 학습이 가능하며, 이후 Unicast 통신으로 전환됩니다.
• 특징
  • VXLAN은 각 VNI별로 멀티캐스트 그룹을 할당하여 BUM 트래픽을 그룹 내 VTEP에게만 전달하여 네트워크 트래픽을 효율적으로 제한합니다.
  • Multicast RP(Rendezvous Point) 등이 멀티캐스트 패킷 전송과 그룹 관리에 관여합니다.
  • 멀티캐스트 플러딩은 VXLAN 1세대 방식이며, 이후 BGP EVPN 기반의 Unicast 학습 방식으로 발전했습니다.
  • Underlay 네트워크에서 Multicast 라우팅을 지원해야 하기에 운영 복잡성이 증가합니다.

 

Unicast 기반 VXLAN 전송 (Head-end Replication, HER)

VXLAN 초기(1세대)에는 BUM 트래픽 전송을 위해 멀티캐스트 기반 Flood & Learn 방식을 사용했습니다. 그러나 Overlay Network의 Multicast 적용이 복잡하기에, 실무에서는 Unicast 방식이 더 자주 사용됩니다.

• 목적
  • Multicast Group 관리가 어렵거나 불가능한 환경에서 VXLAN 터널을 구성할 수 있습니다.
• 동작 원리
  • VTEP은 동일 VNI에 속한 모든 원격 VTEP의 리스트를 유지합니다.
  • 송신 VTEP이 BUM 트래픽을 받으면 해당 리스트를 참조하여 모든 대상 VTEP IP로 해당 패킷을 복제하여 각각 Unicast로 전송합니다.
  • 이 방식은 멀티캐스트에 비해 확장성이 낮으나, 단순한 인프라에서 VXLAN 운영이 가능합니다.
• 특징
  • Multicast 인프라가 지원되지 않는 네트워크에서는 VXLAN BUM 트래픽을 멀티캐스트가 아닌 Ingress Replication(헤드엔드 복제) 방식으로 처리합니다.
  • Underlay에서 Multicast 설정이 불필요하여 네트워크 운영을 단순화 할 수 있습니다.
  • 패킷 복제가 원본 VTEP에서 발생하기 때문에 트래픽 증가로 대규모 환경에서는 비효율적입니다.

 

Multicast vs Unicast(HER) 비교 정리

구분	Multicast 기반	Unicast 기반 (HER)
전송 방식	Multicast	Unicast
전송 효율	높음 (패킷 1개 → 다수 VTEP)	낮음 (패킷 복제 후 개별 전송)
Underlay 요구사항	Multicast 라우팅 필요 (PIM, IGMP 등)	불필요 (Unicast만 지원되면 가능)
운영 복잡성	상대적으로 높음	상대적으로 단순
확장성	멀티캐스트 네트워크 크기에 제한이 있음	VTEP 수 증가 시 부담, 주로 소규모 또는 멀티캐스트 미지원 환경에 적합
운영 환경	멀티캐스트 지원 대규모 데이터센터 및 전통적 환경	멀티캐스트 미지원 작은 환경, 테스트 및 간단한 오버레이 구성에 적합

 

 

Multicast 방식은 전송 효율은 뛰어나지만, Underlay 네트워크의 Multicast 설정을 요구합니다. Unicast 방식은 설정이 단순해 실무에서 많이 사용하지만 트래픽이 증가하는 단점으로 대규모 환경보다는 구성이 단순하고 소규모 환경에 적합한 방식입니다.

대규모 환경(클라우드/데이터센터)에서는 EVPN 기반의 Control Plane을 통해 Unicast 전송 방식을 효율적으로 보완한 방식이 권장됩니다.

 

 

[참고사이트]

https://chanchan-father.tistory.com/1121#google_vignette