Inferencing

  • AIDC 스위치 ASIC의 중요성: Trident 5 기반 QFX5140과 AI 추론

    AI 데이터센터(AIDC) 인프라를 구축할 때 GPU 스펙만큼 신중하게 고려해야 하는 핵심 요소가 바로 네트워크 스위치에 탑재된 ASIC(Application-Specific Integrated Circuit, 주문형 반도체) 칩셋입니다. 상용 실리콘(Merchant Silicon) 기반 스위치 환경에서 처리 대역폭, 버퍼 구조, 패킷 제어 방식, 지연 시간(Latency)의 상당 부분은 어떤 ASIC을 채택했는가에 의해 결정됩니다. 1….

  • HPE Networking 관점의 AI Grid 아키텍처와 토큰 경제학(Tokenomics)

    최근 개최된 HPE Discover 키노트에서 Antonio Neri 회장은 한 문장으로 인프라 시장의 패러다임을 정의했습니다. “AI 혁신의 진정한 시작과 끝은 결국 네트워크다.” 시장의 시선은 온통 어떤 GPU가 더 빠른지, 혹은 어떤 거대언어모델(LLM)이 더 똑똑한지에만 쏠려 있는 듯하지만, 아무리 뛰어난 연산 칩을 보유하고 있더라도 이를 유기적으로 엮어줄…