[VXLAN] VXLAN MAC Learning 과정

VXLAN은 기존 L2 네트워크에서의 MAC 학습 개념을 L3 오버레이 위에 구현해야 합니다. 이 과정에서 VTEP은 로컬 서버와 연결된 MAC 주소를 학습하고, 목적지 MAC이 어디 있는지를 알아야 통신이 가능합니다.

이를 위해 VXLAN은 Multicast/Unicast로 VXLAN Flood & Learn 수행하는 방법과 Unicast 기반 BGP EVPN으로 수행하는 방법이 주로 사용됩니다.

 

[1세대] Multicast 기반 Flood & Learn

Flood & Learn은 전통적인 이더넷 스위치의 MAC 학습과 유사한 개념으로, 별도의 Control Plane 없이 Data Plane에서 학습이 이루어집니다. `Multicast`를 사용해 Remote VTEP간 BUM 트래픽을 처리하는 방식입니다.

📌 동작 원리

1. VTEP은 패킷 수신 시 먼저 Local MAC Table을 확인합니다.
2. 목적지 MAC이 없을 경우, BUM 트래픽(예: ARP 요청)을 VXLAN 캡슐화하여 해당 VNI에 매핑된 Multicast Group으로 전송합니다.
3. Multicast Group에 참여한 모든 Remote VTEP들은 패킷을 수신하고, 캡슐화 해제 후 End System의 MAC 주소와 원본 VTEP 정보를 학습합니다.
4. 응답(ARP Reply 등)은 Unicast로 전달되어, VTEP 간 MAC → VTEP IP 매핑이 완성됩니다.
5. 이후부터는 목적지 MAC을 가진 Remote VTEP으로 Unicast VXLAN 트래픽을 전송합니다.

📌 특징

• 네트워크 초기에는 Flooding, 이후에는 Unicast로 전환하여 통신
• `멀티캐스트 인프라 필요`, IGMP를 통해 Multicast Group 참여하며 Multicast Distribution Tree는 VTEP을 기반으로 구성
• 서로 다른 VNI 간 통신은 외부 라우터를 거쳐야 하며 Hairpin Traffic 발생 가능
• 대규모 환경에서는 Flooding으로 인한 확장성 한계

 

[1세대] Unicast 기반 Flood & Learn

BUM 트래픽 처리 시 멀티캐스트를 사용하지 않고, VTEP이 알고 있는 모든 VTEP 리스트에 패킷을 `Unicast` 복제하여 전송하는 방식입니다.

📌 동작 원리

1. VTEP이 알지 못하는 목적지 MAC을 가진 패킷을 수신합니다.
2. VTEP(Leaf스위치)은 이 트래픽을 캡슐화 후 자신이 알고 있는 동일 VNI를 사용하는 VTEP 목록대로 여러 개 복제합니다.
3.  `Head-End Replication - HER` (Ingress Replication)
   - 송신 VTEP과 같은 VNI에 참여하는 모든 remote VTEP 대상으로 unicast VXLAN 터널을 개별 생성해 각각 동일한 패킷을 각각 Unicast로 패킷을 전송합니다.
   - 즉, N개의 대상 VTEP가 있으면 N번 복제해 모두 전송 (멀티캐스트 그룹 불필요).
4. 트래픽을 수신한 각 VTEP은 캡슐화 헤더를 해제하고, inner 이더넷 프레임의 src MAC/VTEP 조합을 Local MAC 테이블에 학습합니다.
5. 이후 해당 Remote MAC 주소로 Unicast VXLAN 터널 전송이 가능해집니다. (일반 L2 switch의 flood & learn과 동일 원리).

📌 특징

• 멀티캐스트 인프라 없는 네트워크에서 멀티캐스트 없이 VXLAN 사용 가능
• 대상 VTEP 많을수록 송신부하 증가 예: 20 VTEP, 10MB 트래픽이면 200MB 네트워크 사용
• 수신 트래픽의 inner L2 프레임 기반 Data Plane MAC 학습
• 소규모/단순/테스트 오버레이, 멀티캐스트 미지원 환경에서 사용

Unicast Flood and Learn은 Data Plane만으로 L2 네트워크의 flood & learn을 모사하는 방식으로, head-end 복제에 따른 네트워크 부하와 확장성 한계가 있으나, 멀티캐스트 인프라가 없는 환경에는 좋은 대안이 됩니다.

 

[2세대] Unicast 기반 BGP EVPN 연동

Flood & Learn의 단점을 보완하기 위해 Control Plane 기반 학습이 등장했습니다. 대표적으로 `BGP EVPN (Ethernet VPN)`이 VXLAN Control Plane으로 널리 사용됩니다.

📌 동작 원리

1. 각 VTEP은 자신의 MAC, IP, VNI 정보를 MP-BGP EVPN을 통해 Route Reflector(RR) 에 광고합니다.
2. Route Reflector는 이를 전체 VTEP에 전파합니다.
3. 모든 VTEP은 목적지 MAC에 대한 VTEP IP 매핑 정보를 습득 했으므로, Flooding 없이 바로 Unicast VXLAN 트래픽을 전송할 수 있습니다.
4. ARP Suppression 등 고급 기능을 통해 네트워크 효율성을 극대화할 수 있습니다.

📌 특징

• Flooding과 Multicast 최소화 → 멀티캐스트 인프라 불필요
• 대규모 멀티테넌트 환경에 적합 → RD(Route Distinguisher), RT(Route Target)를 활용하여 멀티테넌트 식별 및 경로 제어
• Route Reflector를 통한 확장성 확보 (iBGP 한계 극복)
• 서로 다른 VNI 간 통신 시 별도의 외부 라우터 불필요 (L3 기능 통합)
• 중앙집중형 관리 가능

 

📌 정리

• 1세대 VXLAN (Flood & Learn, Multicast 기반)
  • 목적지 MAC 학습을 위해 BUM 트래픽을 Multicast 그룹으로 Flooding → 이후 Unicast 전환
  • 멀티캐스트 인프라 필요, 보안/확장성 한계
• 1세대 VXLAN (Flood & Learn, Unicast 기반)
  • 목적지 MAC 학습을 위해 BUM 트래픽을 동일 VNI, Remote VETP 수 만큼 복제해 Unicast 전송
  • 멀티캐스트 인프라 불필요, VTEP 수에 비례하여 트래픽 부하 증가
• 2세대 VXLAN (BGP EVPN, Control Plane 기반)
  • MAC 학습을 Control Plane(BGP EVPN)에서 수행 → 불필요한 Flooding 제거
  • 멀티캐스트 없이 대규모 확장 가능
  • 고급 기능(ARP Suppression, 멀티테넌트 지원) 제공

 

[참고사이트]

https://white-polarbear.tistory.com/85

https://support.huawei.com/enterprise/en/doc/EDOC1100086966

https://www.h3c.com/en/d_201508/891223_294551_0.htm