테크니컬 스토리

NVIDIA GPU중 A100/H100 과 같은 고성능 GPU의 수요가 폭발적으로 늘어났고, 또 늘어나고 있습니다.

A100은 23년 9월 발주시 리드타임이 1년가까이 안내되고, H100도 공급이 그리 좋지 못합니다.

이 상황은 NVIDIA의 공급이 줄어서가 아닙니다. 고성능 GPU의 니즈가 공급에 비해 많아졌고,

이미 확정 발주된 건만으로 6개월 생산량을 모두 납품해도 부족하다고 합니다. 

A100과 H100은 서둘러 구매요청을 해도, 사실상 6개월내 납품이 불가합니다. 

고성능 GPU의 수요는 계속되고 있고, 대안으로 생각할 수 있는 GPU가 곧 출시될 예정입니다.

TESLA L40S 모델이 곧 판매 가능할것으로 보고 있고, 비용도 A100보다 많이 저렴합니다.

NVIDIA에서 발표한 자료에 따르면 L40S는 일부 작업에서 A100 80GB 보다 좋은 성능을 보입니다.

물론, 메모리가 48GB로 메모리 비중이 큰 작업에서 일부 손해를 볼 수 있지만,

처리성능만큼은 기존 칩셋인 A100에 비해 좋습니다.

L40S는 A100과 H100의 완벽한 대체가 될 순 없습니다.

하지만, A100과 H100을 하염없이 기다리는 중이시라면 L40S는 충분히 생각해 볼 수 있는 옵션입니다.

L40S도 고성능 GPU대란에 합승하여 공급 이슈가 생길 가능성이 충분한 GPU입니다.

아이티마야에서는 L40S의 확보를 위해 노력하고 있습니다.

영업사원 통해 문의주시면, 금액과 공급 예상시기를 안내받으실 수 있습니다.