Edge Study / HPE Aruba Networking Tips

[심화 가이드] AI 데이터센터(AIDC)를 지탱하는 광트랜시버 기술 혁신

대규모 AI 클러스터와 AIDC(AI 데이터센터) 환경이 보편화되면서 네트워크 엔지니어링의 핵심 병목은 ‘소프트웨어 스택’을 넘어 ‘물리적 전송 한계(Physical Signal Integrity)’와 ‘열 관리(Thermal Management)’로 이동했습니다. 수만 개의 가속기가 All-to-All 통신을 수행하는 패브릭에서는 단 수 나노초(ns)의 지연과 링크 플랩조차 집단 연산 전체를 멈추게 만들기 때문입니다.

앞선 [기초편]에서는 GBIC의 유래부터 트랜시버, DAC, AOC의 구조적 차이와 현장 선택 기준을 살펴보았습니다.

이번에는 생성형 AI와 대규모 GPU 클러스터의 확산으로 인해 네트워크 인프라의 핵심 축으로 떠오른 AI 데이터센터(AIDC) 환경에 초점을 맞춥니다. 수만 개의 GPU가 All-to-All 통신을 주고받는 내부 패브릭과 데이터센터 간을 잇는 백본망에서는 초저지연, 초고대역폭, 그리고 극단적인 전력/열 효율성이 요구됩니다.

최신 광통신 기술 트렌드를 바탕으로 신호 변조(Modulation)의 기초 이론, 스위치 ASIC의 SerDes레벨, DR/FR 규격, MPO 다심 커넥터, LPO/LRO 논쟁과 현실적 대안, 그리고 1.6T와 수랭 기술과 CPO 아키텍처까지 차세대 광 네트워크 아키텍처를 총정리해 드립니다.

1. AIDC의 폭발적 수요와 Optical 시장의 지각변동

시장조사기관 Cignal AI의 분석에 따르면, 고속 광트랜시버 시장은 전례 없는 구조적 변화를 겪고 있습니다.

“Everything vendors can build in high-speed optics is getting bought.”
(제조사가 생산하는 모든 고속 광모듈이 생산 즉시 판매되고 있다.)

“800G demand is not peaking—it’s extending…”
(800G 수요는 정점이 아니라 지속 확장 중이며)

“Pluggables are no longer an alternative—they are the architecture.”
(플러그어블 광모듈은 더 이상 대안이 아닌 아키텍처 그 자체다.)

연도별 데이터 통신 모듈 시장 전망
(출처: Cignal AI, Fourth Quarter and Full Year 2025 – Optical Components Report)

과거 100G/400G 중심이던 데이터센터 스위칭 패브릭은 글로벌하게 이미 800G(8x100G)로 빠르게 전환되었으며, 차세대 대규모 AI 클러스터 및 6G 기간망 백본을 위해 1.6T(8x200G) 및 3.2T 고속 모듈의 도입이 본격화되고 있습니다.

2. 신호 변조(Modulation)의 이론과 진화: 빛에 데이터를 싣는 법

스위치나 광트랜시버가 데이터를 전송할 때, 주파수 대역폭을 무한정 늘릴 수 없기 때문에 “한 번의 파동(1 심볼)에 얼마나 많은 비트를 담을 것인가”가 핵심 기술이 됩니다. 

[1] NRZ (Non-Return to Zero) - 1 심볼당 1비트
전압/광강도 레벨: 2단계 (High / Low)
Level 1 ──────┐      ┌──────┐
              │      │      │
Level 0       └──────┘      └──────
데이터 :        1      0      1      0

[2] PAM4 (Pulse Amplitude Modulation 4-Level) - 1 심볼당 2비트
전압/광강도 레벨: 4단계 (00, 01, 10, 11)
Level 3 (11)  ──┐
Level 2 (10)    │    ┌──
Level 1 (01)    └──┐ │
Level 0 (00)       └─┘
데이터 :        11   01  00  10

[3] Coherent (코히어런트) - 1 심볼당 4~6비트 이상 (QPSK, 16-QAM)
밝기(강도) 변조뿐만 아니라 빛 파동의 위상(Phase)과 편광(Polarization)까지 복합 제어
변조 기술별 원리와 적용처 비교
변조 방식 – 데이터 전송의 핵심
변조 기술원리 및 전송 특성장점 및 한계주요 적용 영역
NRZ (OOK)0과 1 두 가지 밝기(Level)로만 신호 구분. 단순 ON/OFF 방식.회로가 단순하고 노이즈 마진이 크지만, 속도를 올릴수록 고주파 감쇄가 극심함.1G ~ 100G (SFP+, SFP28 등)
PAM4밝기를 4단계 레벨로 세분화하여 한 번에 2비트(00, 01, 10, 11)씩 전송.동일한 클럭 주파수에서 전송률 2배. 단, 신호 레벨 간격이 좁아져 노이즈에 취약하므로 DSP의 신호 복원 필수.400G, 800G, 1.6T AIDC 내부 패브릭
Coherent빛의 세기(진폭) 외에 위상(Phase)과 수평/수직 진동 방향(편광)까지 활용하는 복합 변조.광 신호 감쇄와 색분산(Dispersion)을 극복하여 수천 km 초장거리 전송 가능. 광학 소자 구성이 복잡함.100G/400G/800G ZR/ZR+ (DCI, 메트로, WAN)

3. 전송의 근원: 스위치 ASIC(SerDes)과 8-레인(8-SerDes) 아키텍처

광트랜시버를 이해하려면 먼저 스위치 메인보드 한가운데 자리 잡은 스위칭 실리콘(ASIC)에서 신호가 어떻게 출발하는지 알아야 합니다.

ASIC 내부 코어는 방대한 데이터를 병렬(Parallel)로 처리합니다. 이를 포트 밖으로 내보내기 위해 고속 직렬 신호로 변환하는 핵심 회로가 바로 SerDes(Serializer / Deserializer)입니다.

[Switch ASIC Core (Parallel Data)] 
             │
   (512개 고속 SerDes PHY)
             ▼
[BGA Pin Array (Differential Pairs: Tx±, Rx±)]
             │
  (초고속 PCB Trace or Twinax Flyover)
             ▼
[Front-Panel Cage: OSFP / QSFP-DD]
SerDes 속도의 발전
Tomahawk 세대별 SerDes 진화와 스위치 용량
ASIC 세대공정 노드레인당 SerDes 속도총 SerDes 수스위칭 대역폭대표 포트 구성
Tomahawk 47nm50Gbps PAM451225.6 Tbps64x 400G
Tomahawk 55nm100Gbps PAM451251.2 Tbps64x 800G
Tomahawk 63nm200Gbps PAM4512102.4 Tbps64x 1.6T (128x 800G)

Broadcom Tomahawk 5의 경우, 칩 하나에 512개의 SerDes 레인이 집적되어 있으며 2,048개 이상의 BGA 볼 핀을 통해 신호를 뿜어냅니다. 800G 포트 하나는 8개의 SerDes 레인(8x 100G = 800G)을 사용합니다.

  • xR4 (DR4, FR4 등): ASIC에서 들어온 8개 레인을 모듈 내부 DSP/기어박스에서 2:1로 묶어 4개의 200G 광 신호로 압축 송출합니다.
  • xR8 (DR8, VR8 등): ASIC에서 나온 8개의 전기 신호 레인을 트랜시버 내부에서 기어박스(변환) 없이 그대로 8개의 광 레인으로 직결 송출합니다.

4. AIDC 내부 광학계: DR vs FR 규격과 MPO 커넥터 실무

AIDC 내부 패브릭(Leaf-Spine) 연결 시 광모듈과 광섬유 규격을 정확히 매칭하는 것은 설계의 기본입니다.

1) DR vs FR vs LR 광학 특성 비교
규격최대 거리사용 광섬유광 송수신 방식AIDC 주요 적용처
DR (Datacenter Reach)500m단일모드 (SMF)병렬 광섬유 (MPO-12/16)서버 ↔ Leaf, Leaf ↔ Spine 내부 표준
FR (Fiber Reach)2km단일모드 (SMF)파장 분할 다중화 (CWDM4, LC)건물 간(Inter-Hall), 대규모 캠퍼스 패브릭
LR (Long Reach)10km단일모드 (SMF)고정밀 레이저 (LWDM4, LC)메트로 DCI 및 코어 라우팅
2) MPO 커넥터 규격 분류와 체결 규칙

AIDC에서는 단일 포트의 대역폭을 극대화하기 위해 다심 커넥터(MPO)를 적극 활용합니다.

MPO 심수별 분류
  • MPO-8: 실제 통신에 필요한 8개 코어(Tx 4개, Rx 4개)만 배치한 실속형 커넥터로 400G DR4 또는 2x200G 연결에 최적화되어 있습니다.
  • MPO-12: 국제 표준 12코어 페룰 규격으로, 양 끝 2코어씩을 비우고 중앙 8코어를 사용하거나 4-SerDes 듀얼 링크에 사용됩니다.
  • MPO-16: 16개 광섬유가 단일 열로 배열되어 800G DR8(Tx 8개, Rx 8개) 및 1.6T DR8을 단일 케이블로 수용합니다.
  • MPO-24 / MPO-32: 2열(Dual-Row) 구조로 코어 밀도를 높인 대용량 트렁크 케이블 규격입니다.
  • VSFF (SN-MT, MMC-16): MPO 대비 전면 패널 면적을 3배 이상 절약할 수 있는 차세대 초소형 다심 커넥터입니다.
가이드 핀(Guide Pin) 체결 규칙 (Male vs Female)
  • 트랜시버 모듈 포트 내부에는 이미 정밀 정렬을 위한 돌출 핀(Guide Pin)이 내장되어 있습니다.
  • 따라서 스위치/트랜시버 포트에 직접 꽂는 MPO 패치코드는 반드시 핀이 없는 UNPINNED (Female) 타입을 사용해야 합니다. 핀이 있는 Pinned(Male) 케이블을 강제로 꽂으면 광모듈 내부 페룰이 파손됩니다.
단면 연마: UPC(Flat)에서 APC(8° 경사)로의 전면 전환
  • 100G NRZ 시절에는 단면이 평평한 파란색 UPC(Ultra Physical Contact) 커넥터를 주로 사용했습니다.
  • 하지만 100G/200G SerDes 기반의 고속 PAM4 신호는 반사 손실(Optical Return Loss)에 매우 취약합니다.
    미세한 반사파가 돌아오면 신호 왜곡(Reflection Noise)이 발생하여 링크가 끊어집니다.
  • 이 때문에 400G/800G 이상의 단일모드 MPO 케이블은 반사파가 코어 밖으로 굴절되도록 끝단을 8도 각도로 비스듬히 깎은 APC(Angled Physical Contact, 녹색 하우징) 커넥터 사용이 표준화되었습니다.

5. LPO의 이상과 현실: 왜 스위치 벤더들은 LPO를 멈추었는가?

전력과 지연시간을 줄이기 위해 모듈 내부에서 DSP를 제거하는 LPO(Linear Pluggable Optics)는 발표 당시 많은 기대를 모았습니다.

[표준 Retimed 모듈] 
Switch ASIC SerDes  <───>  [DSP (신호 복원/CDR)]  <───>  [Driver/Laser]  (전력 ~16W, 지연 ~90ns)

[LPO (Linear 모듈)] 
Switch ASIC SerDes  <───────────────────────────>  [Linear Driver/Laser]  (전력 ~8W, 지연 ~4ns)

LPO는 DSP를 없앰으로써 모듈당 전력을 50% 절감하고 지연시간을 4ns 수준으로 낮추는 장점이 있었습니다.
HPE 역시 QFX5241-32OD 같은 장비에서 LPO 지원을 선도적으로 검증했습니다.

현장에서 LPO 도입이 보류(Put on Hold)된 3가지 기술적 한계
  1. 상호운용성(Multi-vendor Interoperability) 실패: 신호를 보정해 주는 DSP가 없기 때문에, 스위치 ASIC의 SerDes 특성과 광모듈 광학계가 1:1로 정밀하게 맞물려야 합니다. A사 스위치에 B사 LPO 모듈을 꽂으면 링크가 안 붙거나, CMIS(Common Management Interface Specification)를 통한 호스트 보정 튜닝이 어긋나 에러(BER)가 발생합니다.
  2. 200G SerDes 세대에서의 물리적 한계: 100G SerDes(800G 스위치)까지는 신호 보정이 가능했으나, 200G SerDes(1.6T 스위치)로 넘어가면서 주파수 노이즈와 채널 손실이 급증하여 DSP 없는 순수 아날로그 구동이 불가능해졌습니다.
  3. 텔레메트리 부재: DSP가 제거되면서 정밀한 광학 수신 품질 모니터링(TDECQ, 진단 데이터)을 얻기 어려워져 대규모 AIDC 운영 신뢰성이 떨어집니다.

6. 메트로·DCI의 대안: 코히어런트(Coherent)와 CORA 아키텍처

AIDC 내부를 벗어나 데이터센터 간(DCI) 및 지역 분산 클러스터를 연결할 때는 단순 광 강도 변조(Direct Detection)의 한계를 뛰어넘는 코히어런트(Coherent) 기술이 투입됩니다.

[Direct Detection (PAM4)]: 
빛의 밝기(강도)만 변조하여 0, 1 판별 (전송 거리: 수백 m ~ 수 km)

[Coherent Optics]: 
빛의 세기(진폭) + 파동의 위치(위상) + 진동 방향(편광)을 모두 제어 (전송 거리: 수백 km ~ 2,000km+)

CORA (Converged Optical Routing Architecture)

과거 장거리 DWDM 통신을 하려면 라우터 외부에 고가의 전용 트랜스폰더 섀시(Transponder Chassis)를 별도로 구축해야 했습니다.

HPE의 CORA 아키텍처는 코히어런트 광학계를 소형 QSFP-DD 폼팩터 안에 집어넣은 JCO(Juniper Coherent Optics) 시리즈(400G/800G ZR/ZR+)를 활용합니다.

  • 트랜스폰더 제거: 라우터(PTX10002 등) 포트에 플러그어블 Coherent 모듈을 직접 꽂아 라우팅 계층과 DWDM 전송 계층을 통합합니다.
  • 0dBm High-Power ZR+: 별도의 외장 광 증폭기(EDFA) 개입을 최소화하고 복잡한 ROADM 광 전송망에 직접 레이저를 송출합니다.
  • 운영 통합: 라우터 운영체제(Junos OS) 및 AIOps 도구(Routing Director, Apstra)를 통해 라우터 CLI/GUI 상에서 광 파장, 송출 세기(Tx Power), OSNR(광 신호 대 잡음비)을 단일 화면에서 제어합니다[cite: 1].

3. LPO(Linear Pluggable Optics)의 딜레마와 실제 대안 기술

최근 AIDC 업계에서는 전력 소비와 지연시간을 줄이기 위해 트랜시버 내부에서 DSP(Digital Signal Processor)를 제거하는 LPO(Linear Pluggable Optics) 기술이 주목받았습니다. 하지만 실제 엔터프라이즈 및 클라우드 인프라 현장에서는 LPO 도입에 대해 매우 신중한 태도를 취하고 있습니다.

1) LPO의 이상과 현실적 한계

이상: DSP 칩셋을 제거하여 모듈 전력을 50% 줄이고 지연시간을 피코초(ps) 단위로 단축.

현실적 한계:

  1. 상호운용성(Interoperability) 부재: DSP가 신호 보정(Retiming)을 해주지 않으므로, 스위치 ASIC의 SerDes와 트랜시버 광학계 간의 1:1 아날로그 튜닝이 필수적입니다. 멀티 벤더 환경에서 호환성 확보가 극도로 어렵습니다.
  2. 링크 마진 저하: 광 커넥터 오염이나 거리 증가 시 신호 에러(BER)를 보정할 수 없어 링크 안정성이 크게 떨어집니다.
  3. 원격 모니터링 한계: DSP가 없어 광학 품질 진단(Diagnostic Telemetry) 데이터를 정밀하게 수집하기 어렵습니다.
2) 업계 및 HPE가 선택한 실질적인 대안
[단기/현실적 표준]  초저전력 DSP 탑재 Retimed Optics + Direct Liquid Cooling(수랭)
       ↓
[과도기 대안]    LRO (Linear Receive Optics: Tx에만 DSP 유지, Rx 선형화)
       ↓
[중장기 대안]    CPO (Co-Packaged Optics: ASIC 패키지 위에 광 엔진 직접 통합)
  1. 초저전력 Retimed Optics + 수랭(Liquid Cooling): 3nm/5nm 최신 미세공정 DSP를 유지하여 신호 무결성, 상호운용성, 완벽한 텔레메트리를 확보하고, 발생하는 열은 Direct-to-Chip 액체 냉각(OSFP-RHS)으로 해결하는 접근입니다. (HPE QFX5250 등 차세대 1.6T 스위치의 핵심 전략)
  2. LRO (Linear Receive Optics):송신(Tx)에만 DSP를 두고 수신(Rx)에서만 DSP를 제거하여, LPO보다 신호 안정성을 높이면서 전력을 25~30% 절감하는 절충안입니다.
  3. CPO (Co-Packaged Optics):모듈 형태를 벗어나 스위치 메인 ASIC과 동일한 패키지 기판 위에 광 엔진을 실장하여 전기 신호 손실을 mm 단위로 억제하는 차세대 기술입니다.

4. 광 변조 기술의 진화: Direct Detection에서 ‘코히어런트(Coherent)’까지

광통신에서 빛에 데이터를 싣는 방식(변조)은 거리와 속도에 따라 크게 직접 검출(Direct Detection) 방식과 코히어런트(Coherent Detection) 방식으로 나뉩니다.

[Direct Detection (NRZ / PAM4)]
빛의 밝기(강도)만 켰다 껐다 조절하여 0과 1 판별 
  ---> 구조가 단순해 단거리/AIDC 내부 패브릭(최대 ~10km)에 주로 사용

[Coherent Optics (QPSK / 16-QAM 등)]
빛의 밝기(Amplitude) + 파동의 위치(Phase, 위상) + 진동 방향(Polarization, 편광)까지 모두 제어
  ---> 수천 km 장거리, DCI, 메트로 및 초고용량 백본망에 필수 사용
변조 방식 비교
변조 기술원리 및 특징주요 적용 영역
NRZ (Non-Return to Zero)2단계 전압/광강도(0, 1) 이진 변조. 단순하지만 속도 확장의 한계.1G ~ 100G Client Optics
PAM4 (Pulse Amplitude Modulation 4-Level)4단계 광강도 레벨(00, 01, 10, 11)로 1클럭당 2비트 전송.400G/800G/1.6T AIDC 내부 패브릭
코히어런트 (Coherent)빛의 세기 + 위상(Phase) + 편광(Polarization)을 복합 제어. 수신부의 국부 발진기(Local Oscillator) 레이저와 믹싱하여 신호 복원.100G/400G/800G ZR/ZR+ (DCI, WAN, Metro)

5. DCI 및 메트로 전송의 혁신: 코히어런트 기반 IPoDWDM과 CORA

과거에는 장거리 데이터센터 인터커넥트(DCI) 및 지역 분산 AI 클러스터를 연결할 때 라우터 외부에 고가의 DWDM 트랜스폰더(Transponder) 전용 섀시를 별도로 두고 광케이블을 복잡하게 배선해야 했습니다.

CORA (Converged Optical Routing Architecture)

HPE의 CORA 아키텍처는 코히어런트 광학 기술을 소형화한 Coherent Pluggable(JCO400 / JCO800 ZR/ZR+)을 라우터(PTX 시리즈 등) 포트에 직접 장착하는 IPoDWDM을 실현합니다.

  • 400ZR / 800ZR: DCI 및 캠퍼스 간 단일 스팬(80~120km) 비증폭 DWDM 전송 지원
  • 400G/800G ZR+ (0dBm High Power): 고출력 코히어런트 광학 설계를 통해 복잡한 ROADM 네트워크 및 수천 km 이상의 초장거리 백본망을 외장 트랜스폰더 없이 라우터 직결로 구동
  • CapEx/OpEx 절감 및 통합 제어: 외장 섀시 제거로 전력과 상면을 절감하며, Junos OS 및 Routing Director/Apstra를 통해 라우터 콘솔에서 파장(Wavelength), 광 출력(Tx Power), OSNR을 소프트웨어로 일괄 제어

6. 열 장벽(Thermal Barrier) 극복: 방열판과 수랭(Liquid Cooling) 기술

800G 및 1.6T 광모듈은 고성능 DSP와 레이저 구동으로 인해 모듈당 20W~40W 이상의 전력을 소모합니다. 1RU/2RU 스위치 전면에 수십 개의 모듈을 장착하면 옵틱에서만 1~2kW 이상의 열이 발생하므로 공랭(Fan Airflow)만으로는 한계에 도달했습니다.

1) OSFP와 Riding Heat Sink (RHS)

차세대 800G/1.6T 폼팩터인 OSFP는 모듈 표면에 일체형 방열 핀(RHS)을 장착하여 공기 흐름을 극대화하거나, 스위치 섀시 상단의 쿨링 블록과 직접 맞닿도록 설계되었습니다.

2) AIDC 액체 냉각(Liquid Cooling) 아키텍처
  1. Direct-to-Chip (DLC) 콜드플레이트 연동: 스위치 ASIC 칩뿐만 아니라 64개 OSFP-RHS 트랜시버 케이지 상단까지 냉각수가 순환하는 콜드플레이트를 100% 밀착시켜 고열을 즉각 흡수합니다. (예: 102.4Tbps 용량의 HPE Juniper QFX5250-64OE-L)
  2. Immersion Cooling (액침 냉각 대응): 장비 전체를 절연성 냉각유에 담그는 환경을 위해 커넥터 부위에 유체가 침투하지 않도록 밀봉된 Sealed Optical Interface 기술이 적용됩니다.

💡 마무리하며.. 수직 통합된 시스템 엔지니어링(System Engineering)

AIDC 시대의 네트워크는 더 이상 스위치 장비, 광모듈, 케이블을 무작위로 조합하는(Mix-and-Match) 방식으로는 최고의 성능과 무중단 신뢰성을 보장할 수 없습니다.

  • 고속 직렬 신호의 신호 무결성(SI)
  • 코히어런트 DSP 튜닝 및 링크 마진 확보
  • 고발열을 제어하는 수랭(Liquid Cooling) 열 관리
  • 라우팅 프로토콜(RPD)과 AI 기반 통합 자동화(AIOps)

이 모든 요소가 하나의 유기체처럼 맞물려 작동해야 합니다.

라우팅 실리콘부터 플러그어블 옵틱, 통합 광 관리 소프트웨어까지 결합된 수직 통합 시스템 엔지니어링 접근 방식이야말로 초거대 AI 인프라의 확장성과 리질리언스를 보장하는 확실한 열쇠입니다.

Related Posts