暴涨500倍 NVIDIA发布AI超算DGX GH200:144TB内存、1.8万核CPU


(资料图片仅供参考)

快科技5月29日消息,AI是当前的热点,现在也成了NVIDIA最受人关注的部分,今天在台北电脑展的主题演讲上,NVIDIA又发布了针对AI推出的大内存DGX GH200超算系统,配备了256个Grace Hopper芯片,总计1.8万CPU核心,144TB内存,相比之前涨了500倍。

AI运算对内存容量的要求更高,所以DGX GH200通过最新的NVLink、NVLink Switch等技术连接了256块Grace Hooper超级芯片,实现了极为夸张的性能及内存。

Grace Hooper我们之前报道过,这是一块CPU+GPU合体的超级芯片,CPU是NVIDIA自研的72核处理器,Neoverse V2内核,拥有480GB LPDDR5内存,512GB/s带宽。

GPU部分是H100,FP64性能34TFLOPS,但更强的是INT8性能,AI运算能力达到了3958TFLOPS,带96GB HBM3内存。

GH200总计有256块Grace Hooper芯片,因此总计18432个CPU核心,144TB HBM3内存,AI性能达到了1 exaFLOPS,也就是100亿亿次。

这是什么概念,当前最强的TOP500超算也就是百亿亿次性能,只不过这个性能是HPC计算的,NVIDIA的是百亿亿次AI性能。

为了让256个超级芯片互联,GH200还使用了256块单口400Gb/s InfiniBand互联芯片,256个双口200Gb/s InfiniBand芯片,还有96组L1 NVLink、36组L2 NVLink开关等等,设计非常复杂。

NVIDIA表示,谷歌、Meta及微软是首批获得DGX H200系统的公司,后续他们还会开放给更多客户,运行客户定制。

不过DGX H200还不是最强的,NVIDIA今年晚些时候会推出名为NVIDIA Helios的AI超算系统,由4组GH200组成,总计1024个Grace Hooper超级芯片,576TB HBM内存。

责任编辑:

标签:

x 广告
通达股份董秘回复:公司线缆产品主要原材料为铜、铝、塑料,有关材料价格可在上海有色网、长江有色金属网等网站查询

通达股份(002560)12月30日在投资者关系平台上答复了投资者关心的问题。

羊没羊,好像也没那么重要了!

疫情管控刚一放开,我就一直在想,如何降低羊的概率和影响。​由于家里老人身体不太好,孩子年龄又太小,加上只有我一个人整天在外面跑,感染

郑州富士康面试当天可以进厂吗(附面试前准备)

答:郑州富士康面试当天合格就可以安排宿舍,所以当天就可以进厂,也可以携带行李参加招募面试。拓展阅读:1 面试前准备携带资料:身份证原件

2021年我国产出卓越科技论文48万篇

新华社北京12月29日电(记者温竞华)中国科学技术信息研究所29日发布的《2022年中国卓越科技论文报告》显示,2021年,中国卓越科技论文共计48

世界关注:2023武汉欢乐谷免票及优惠票适用人群

武汉欢乐谷免票及优惠票适用人群儿童:身高1 2米以下(含),免费;身高1 2米(不含)-1 5米(含),优惠票老人:70周岁(含)以上凭有效证件

明年欧元区难逃衰退?经济学家警告:能源紧缺仍是重大隐忧 天天速递

明年欧元区难逃衰退?经济学家警告:能源紧缺仍是重大隐忧 ">

天风证券:火电行业利好频传,重申沿海电厂盈利修复逻辑 当前简讯

本周专题:火电行业利好频传,2022年12月15日云南省发改委提出设立燃煤发电调节容量市场;22日江苏、广东2023年年度交易结果出炉,电价基本实

形容天秤座的句子精选220句_今日要闻

形容天秤座的句子精选95句1 拦不住要走的风,抱不住整片天空。2 哪里有什么老天的眷顾,所谓的幸运和成功都源自你自身的努力和付出。3 所以,

昆明2023年兔年贺岁纪念币可以流通吗? 环球快看

昆明2023年兔年贺岁纪念币可以流通吗?双色铜合金纪念币与现行流通人民币职能相同,与同面额人民币等值流通。贺岁纪念币普通纪念币是央行发行

实时焦点:记一次QQ找回经历

腾讯的风控策略让普通用户抓狂经历是这样的,昨天有事要登录下QQ号,因为很久没用过QQ的缘故,现在是在一个新设备上登录,提示我需要扫码才能

x 广告

Copyright ©  2015-2022 欧洲城市网版权所有  备案号:沪ICP备2022005074号-23   联系邮箱: 58 55 97 3@qq.com