AMD 인스팅트 MI300X, 엔비디아 H100보다 LLM추론 성능 '최대 3배' 앞서

텐서웨이브 보고서 결과…믹스트랄 8x7B로 비교

 

[더구루=홍성일 기자] AMD의 생성형 인공지능(AI) 가속용 그래픽처리장치(GPU) 인스팅트(Instinct) MI300X가 거대언어모델(LLM) 추론 성능에서 엔비디아의 H100보다 월등한 성능을 보여주는 것으로 나타났다. AMD는 엔비디아와 경쟁하기 위해 신제품 출시에도 박차를 하고 있다. 


해당 콘텐츠는 유료 서비스입니다.

  • 기사 전체 보기는 유료 서비스를 이용해주시기 바랍니다. (vat별도)
  • 해당 콘텐츠는 구독자 공개 콘텐츠로 무단 캡처 및 불법 공유시 법적 제재를 받을 수 있습니다.








테크열전

더보기




더구루인사이트

더보기