미국 엔비디아(NVIDIA)는 GTC Taiwan에서 신형 GPU 서버 플랫폼 HGX-2를 발표했다.


발표된 HGX-2는 기존 HGX-1가 Tesla V100을 8기 탑재했으나 HGX-2는 Tesla V100 16기를 12기의 NVSwtich로 네트워크 연결하여 2.4TB/s의 대역폭을 실현하는 것이 특징으로, CUDA 코어 수는 총 81920, 텐서 코어는 총 10240코어, GPU 메모리 용량은 512GB에 육박하며 부동 소수점 연산 성능은 250TFLOPS, 배정밀도 125TFLOPS, Tensor 연산에서 2PFLOPS의 연산 성능을 실현하며 INT8 연산도 대응한다.





엔비디아는 인텔의 제온 골드 6140(18코어/36스레드, 듀얼 소켓)과 비교해 300배의 성능을 강조하고 있으며 인공지능 학습에 관한 ResNet-50 벤치마크에서 초당 15500 처리 속도를 달성했다고 밝혔다. 

반응형
Posted by 랩터 인터내셔널