NVIDIA的H100加速卡在AI爆火之后炙手可热,售价超过25万元依然供不应求。而它的性能也非常夸张,最新的AI测试中全面刷新记录,基于GPT-3的大语言模型训练任务纪录已经被刷至11分钟。
机器学习及人工智能领域开放产业联盟MLCommons公布了最新的MLPerf基准评测,其中包括8个负载测试,LLM大语言模型中就有基于GPT-3开源模型的,很考验平台的AI性能。
参与测试的NVIDIA平台由896个Intel至强8462Y+处理器和3584个H100加速卡组成,是所有平台中唯一跑完所有测试的,而且刷新了记录。
在关键的基于GPT-3的大语言模型训练任务中,H100平台只用了10.94分钟,可以对比的是Intel平台,由96个至强8380处理器和96个Habana Gaudi2 AI芯片构建的系统中,完成同样测试的时间为311.94分钟。
H100平台的性能几乎是30倍于Intel平台,当然两套平台的规模相差也很大,但只用768个H100加速卡的话,训练时间也只要45.6分钟,依然远超Intel平台的AI芯片。
三上悠亚韩国度假 女主有大凶之兆的囧图
3000元国产显卡夯爆了!现场跑黑神话高画质相当流畅
小岛秀夫一大早就发“玉足福利”!老吃家太宠粉
《红色沙漠》惨遭破解!非虚拟机 发售以来首次
《黑神话:钟馗》风格大变!官方透露会更诙谐更日常
漫威新"乳神"爱玩游戏!钟爱开放世界和格斗 PS5不离身