죄송합니다. 더 이상 지원되지 않는 웹 브라우저입니다.

알베오 U55C의 출시로 HPC 업계에 많은 가치 제공할 것

PDF 다운로드

인터뷰/네이선 창(Nathan Chang) HPC 제품 매니저, 자일링스

정리/배인순, 프리랜서

Q 엑사급(Exascale) HPC의 과제는 무엇인가?

A 엑사급은 현재 모두가 추구하는 하나의 이정표다. 기술이 더 발전하게 되면 엑사급 다음의 또 다른 이정표가 생기지 않을까 싶다. 또한 빼먹을 수 없는 주제가 바로 디지털화(Digitalization)이다. 디지털화로 인하여 센서의 숫자가 기하급수적으로 늘어났고 그에 따른 데이터의 양도 어마어마하게 증가했다. 이 모든 것을 위해 인프라 성장의 필요성이 대두되었다. 그러나 인프라보다 우리에게 더 필요한 것은 이 데이터를 제대로 이해하고 활용하는 것에 있다. 

오늘날 이러한 범용 컴퓨팅 플랫폼은 확장은 가능하지만, 만약 여러 환경적인 영향에 의해 압력이 높아지게 되면 실패하게 된다. 범용 컴퓨팅 플랫폼의 또다른 문제는 아키텍처 측면에서 굉장히 경직되어 있다는 것이다. 물론 X86의 경우 향후 몇 년 동안에도 계속 필요하고 GPU도 범용화 되었지만, 지금은 이기종 컴퓨팅 때문에 가속기에 대한 필요성이 점점 더 생기고 있다. 

추가적으로 범용 컴퓨팅 플랫폼의 한계로써 연속적으로 명령어를 입력해야 한다는 것과 데이터 이동이 신속하게 진행되지 않는다는 점을 예로 들 수 있다. 그리고 워크 플로우에 있어서 데이터를 전송하면서 데이터 컨디셔닝(Data Conditioning)도 해야 한다는 문제점이 있는데, 이 경우 클럭 주기가 낭비되고 결국 전력 소모가 증가하게 된다.

Q 성능이 뛰어난 알베오(Alveo) HPC 가속기 카드란?

A 자일링스 알베오(Alveo) U55C 데이터센터 가속기 카드는 슬림한 디자인에 고대역폭 메모리(HBM) 용량도 2배 증가했다. 물론 이것이 전부가 아니라 더 많은 기능이 포함되었다. 보통 이런 카드를 확장하려면, 소프트웨어 개발팀에서 짧게는 6개월 길게는 1년씩 네트워킹 프로토콜이나 인프라, 그리고 동기화를 구축하는 작업을 해야 했는데, 더 이상 그럴 필요가 없다. 

사실 이 고성능 컴퓨팅(HPC)과 관련된 문제는 단일 카드나 단일 서버와 관련된 것이 아니라, 오히려 고밀도 컴퓨팅이 필요한 수학과 데이터 문제다. 그리고 개발자 입장에서는 알베오 뿐만 아니라 알베오 클러스터를 하나의 거대한 디바이스로 다뤄야 하는데, 이는 자일링스의 더욱 강력해진 바이티스(Vitis) 개발 플랫폼을 통해 구현 가능하다. 

Q 알베오(Alveo) HPC 가속기 카드의 장점은?

A 오늘날 워크로드 자체가 굉장히 커지고 있으며, 자일링스는 고객 인프라 및 네트워크 전반에 걸쳐 대규모 스케일 아웃(Scale-Out)이 가능한 솔루션을 제공하고 있다. 그리고 HPC 워크로드 및 개발 커뮤니티와 관련하여 더 많은 알베오의 핵심기능들을 제공할 예정이다. 서버 플랫폼과 네트워크 인프라와 무관하게 개방형 표준과 개방형 프레임워크를 통해서 카드를 확장할 수 있다. 또한 컨버지드 이더넷(Converged Ethernet)을 통해서 구현되는 200 Gbps 대역폭의 RoCE v2와 데이터센터 브리징을 활용해서 알베오 네트워크가 제공될 것이다. 이 알베오 네트워크는 인피니밴드(InfiniBand)에 준하는 성능, 레이턴시를 제공하고 있다. 즉 어떠한 데이터센터에서든 인피니밴드와 경쟁해도 손색없는 시스템을 갖출 수 있다. 

그리고 MPI 통합을 통해 HPC 개발자들은 수백개에 달하는 카드를 스케일 아웃 할 수 있고, 바이티스 개발 플랫폼에서 알베오 데이터 파이프라인의 확장이 가능하다.

Q 바이티스(Vitis) 통합 소프트웨어 플랫폼이란?

A 약 2년 전부터 자일링스 소프트웨어 개발자들은 자사 디바이스를 다루기 위해 개발 플로우를 더욱 쉽게 만들어야 되겠다는 생각을 했다. 예전에는 FPGA를 프로그래밍하기 위해서는 RTOS(OS의 기능 중 프로세스 관리만을 가져와서 사용하는 실시간 운영 체제)를 알아야만 했지만, 사실 이러한 스킬을 가지고 있던 개발자들은 전체 개발자의 단 1%밖에 되지 않았다. 

개발자들은 장소에 구애받지 않고 접속하여 FPGA, SoC, ACAP, 그리고 SoM 등을 개발할 수 있다. 또 바이티스를 통하여 개발자와 설계자는 여러가지 다양한 디바이스를 목표로 디자인할 수 있다. 바이티스는 임베디드 컴퓨팅부터 파 엣지(Far Edge) 컴퓨팅, 그리고 모든 4차 산업 인프라와 관련하여 프로그램의 이식과 상호 호환성의 구현이 가능하다. 아울러 C, C++ 등의 하이 레벨 프로그래밍 언어(high-level programming language) 뿐만 아니라 파이썬(Python)도 지원한다. 만약 데이터과학자가 텐서플로우(TensorFlow), 주요 AI 프레임워크 및 머신러닝 관련 작업을 할 때도 유용하게 지원받을 수 있다. 

자일링스는 계속해서 툴셋을 개발하고 있으며, 범용 컴퓨팅 플랫폼들이 제공하지 못하는 성능을 지원하고 있다. 그리고 도메인별로 특화된 API와 라이브러리를 구축함으로써 핵심적인 기능들을 가속화할 수 있는데, 이런 점들이 고성능 컴퓨팅과 실시간 애플리케이션의 컴퓨팅 작업에 큰 부분을 차지하고 있다. 일례로 데이터 과학자들을 위한 그래픽 알고리즘도 포함되어 있다. 그리고 FPGA 개발에 필요한 RTL 커널(RTL Kernels) 세트도 포함되며 스케일 아웃이 가능하다.

Q 신제품 알베오 U55C를 자세히 설명하면?

A 대부분 워크로드의 경우 Math Function 블록에서 계산하는 데 필요한 I/O의 양이 증가함에 따라 메모리 대역폭이 점차 중요해지고 있는 것을 볼 수 있다. 따라서 분산된 컴퓨팅에 관련된 여러 작업들을 해결하고 있다. U55C 카드의 경우 HBM 역량이 강화되었고 많은 카드의 스케일 아웃이 가능하며, 컴퓨팅과 관련된 병목현상을 해결하고 있다. 

새로운 U55C와 관련된 핵심적인 기능들을 보면, U55C는 파이프라이닝(Pipelining)이 가능하기 때문에 워크로드를 더 많이 병렬화 시켜서 진행할 수 있다. 또한 알베오에 내재되어 있는 맞춤화된 메모리 계층을 만들 수 있다. 파이프라인 전반에 걸쳐 최적화된 데이터 이동도 가능하다. 즉 알베오를 통해 최상의 와트 당 성능을 구현할 수 있다.

이번에 신규 출시하게 된 알베오 U55C를 기준으로 삼아서 기존 알베오 U280과 비교하여 몇 가지 핵심적인 차이 부분을 말씀드리겠다. 기존 제품은 듀얼 슬롯이었지만 U55C는 더욱 슬림한 디자인으로 단일 슬롯을 제공한다. 인터페이스의 경우, PCIe 슬롯과 공간은 절반만 차지하면서도 동일한 컴퓨팅 성능을 구현할 수 있다. DRAM 메모리의 경우, HBM2의 전체 용량은 2배로 탑재되었다. 그렇기 때문에 기존 U280은 2개의 슬롯을 차지했는데, 지금은 기존보다 4배의 HBM을 제공해드리고 있다.

Q 제품 이용 및 구매 방법에 대해 소개 해 달라.

A 이번 카드는 자일링스 홈페이지나 기존 유통 채널에서 구매 가능하다. U55C는 클라우드에서 FPGAaaS(서비스형 FPGA)로써 이용 가능하다. 확장(스케일 아웃)하기 위해서 단일 또는 클러스터링 카드를 이용하고, 트라이얼 테스팅이나 코로케이션과 관련된 작업을 하고자 하는 OEM이나 벤더들도 이용 가능하다. 자일링스는 채널과 고객들이 카드를 쉽게 이용할 수 있도록 지원할 것이다. 또한 이제까지 출시했던 알베오 카드 중에서, 사전 출시로는 U55C가 많은 수요가 있기 때문에 아마 가장 성공적이지 않을까 생각된다. 특히 초기에 이 카드를 필요로 하는 고객사들의 경우에는 핀테크, 슈퍼컴퓨팅, 하이퍼 스케일링을 요구하는 곳들이 있다.

Q U55C의 출시의 키워드는 무엇인가?

A 자일링스는 알베오 라인의 상위 제품군들을 계속 성장시키고 있으며, 전보다 더 슬림 하면서 성능이 뛰어난 카드를 제공한다. 또한 컴퓨팅 관련 HBM 밀도를 높였다. 따라서 고객분들께서는 알베오 카드 내부의 복잡한 핵심 가치와 HPC 클러스터로부터 혜택을 누릴 수 있다.

여러가지 장점들이 있지만, 먼저 상용 기성 제품이며 엔터프라이즈 등급이다. 컴퓨팅 패브릭과 HBM의 밀도를 높였다. 온보드 200Gbps 네트워킹이 구현되며, 확장(Scale-Out)가능하다. MPI가 통합되었고, 개발자들이 곧바로 바이티스를 이용할 수 있다. 마지막으로 저전력으로 구현된다.

U55C의 출시로 고성능 컴퓨팅 업계에 많은 가치를 제공해줄 수 있을 것이라 생각된다. 사실 요즘 데이터센터들은 많은 도전과제에 직면하고 있다. 특히 환경 분야의 지속 가능성이 대두되고 있는데, 데이터센터들이 전력과 물을 너무 많이 소비한다 등의 지적들이 있다. 그래서 컴퓨팅 관련 지속 가능성을 고려했을 때, 결국 와트 당 성능이 중요해질 것 같다. 자일링스는 계속해서 와트 당 성능을 제고하면서 이종컴퓨팅 플랫폼안에서도 작업이 가능하도록 노력할 것이다. 

leekh@seminet.co.kr
(끝)
<저작권자(c) 반도체네트워크, 무단 전재-재배포 금지>