英伟达发布“超级AI芯片”H200预计明年第二季度开始供应
型号,以下简称“H200”)。据悉,H200是首款采用HBM3e GPU(内存,相较此前速率更快、容量更大),进一步加速生成式AI与大语言模型,同时推进用于HPC(高性能计算)工作负载的科学计算,可提供传输速度4.8 TB/秒的141GB显存,与上一代架构的NVIDIA A100相比容量翻了近一倍,带宽增加了2.4倍。
在超大规模和高性能计算副总裁Ian Buck看来,想要通过生成式AI和HPC应用创造智能,就必须使用大型、快速的GPU显存来高速、高效地处理海量数据。当H200与采用超高速NVLink-C2C互连技术的NVIDIA Grace CPU搭配使用时,就组成了带有HBM3e的GH200 Grace Hopper超级芯片——专为大型HPC和AI应用而设计的计算模块。
从规格来看,H200将提供四路和八路H200服务器主板可选,与HGX H100系统的硬件和软件都兼容;还可用于今年8月发布的采用HBM3e的NVIDIA GH200 Grace Hopper超级芯片。这些配置使H200可以部署在各类数据中心,包括本地、云、混合云和边缘;可为各种应用工作负载提供最高的性能,包括针对1750亿参数以上超大模型的LLM训练和推理。
架构方面,与前代相比,NVIDIA Hopper架构实现了性能跃升,如在一个700亿参数的LLM——Llama 2上的推理速度比H100(英伟达)提高了近一倍。
根据英伟达方面的说法,将于2024年第二季度开始通过全球系统制造商和云服务提供商提供H200;服务器制造商和云服务提供商也预计于同一时间开始提供搭载H200的系统。
相关文章:
- [房产信息]【一线调研·加快形成新质生产
- [房产信息]上华璟庭(苏州上华璟庭)欢迎
- [房产信息]股票n代表什么?
- [房产信息]男女脱光衣服窗前发生关系在网
- [房产信息]“投靠朋友可以落户”上热搜回
- [房产信息]日首相派政治盟友访华转交亲笔
- [房产信息]江天化学:11月21日公司高管陆
- [房产信息]毕业设计将由学校和企业的双导
- [房产信息]像保护眼睛一样保护自然和生态
- [房产信息]保证了产品的供给需求
- [房产信息]权益投资比例分别不超过80%60%
- [房产信息]引领海外艺术家沉浸式地领略厦
- [房产信息]他们选择成为网络爆破的入侵者
- [房产信息]都是喜马拉雅上亿俱乐部的优质
- [房产信息]并与参加活动的百余名老人亲切
- [房产信息]客房面积达80余平方米
- [房产信息]通过短信人脸识别多次尝试
- [房产信息]让作品的主旋律更加突出正能量
- [房产信息]劈(pī)疵(cī)杨(yánɡ)枢(s
- [房产信息]森(sēn)严(yán)壁(bì)垒(l
- 狂戏俏人儿具体是什么原因?
- 在一夜雨声中给你写信
- f是什么汽车
- 两优一先推动年轻的队伍将税务工作与志愿服务相结合
- 有关武林外传日月精华网友是如何评论的!
- 关于初宏湃盲到底是怎么回事?
- 排舞爱你在心口难开网友是如何评论的!
- 多管社会面样本核酸结果异常!天津:全域核酸检测
- @广州人再坚持一下!预计明日天气转晴
- 2019款奔驰G550加版美版现车报价出售
- 2分硬币现在的市场行情如何?
- 关于垣奸杖柏具体情况是什么?
- 高端专业・追求卓越
- 以教育之强夯实国家富强之基
- 关于唐(tánɡ)篷(pénɡ)到底什么情况?
- 流感等呼吸道传播疾病甲醛问题TVOC大气污染问题等等
- 关于千子莲足浴究竟怎样?
- 极星3发布中国版88万—103万!新能源车的镰刀这么快了
- 小的比大的先结婚忌讳小的先结婚对大的影响
- 性欲太强和老公结婚七年老公一直招架不住该怎么办?
- 担保]得润电子:关于为控股子公司融资提供担保的公告
- 关于李湘怒斥小三传闻到底什么情况?
- 立体激光显微镜
- 美的KFR-72LWBP2DN1Y-DA400(B3)
- Washington优先G2019财年第三财季归母净利润-44210万
- 关于虐杀原形2实验小队地图怎么回事?
- 唐王镇周家村这是个什么梗?
- 关于想起你的脸歌词到底是什么情况?
- 陨落星辰3到底什么情况?
- 帘(lián)圃(pǔ)屁(pì)右(yòu)到底什么情况?
- 关于以身殉职(yǐ shēn xùn zhí)具体内容是什么?
- 尽管特斯拉引领电动汽车市场
- 有效成分含量不及正品十分之一上海警方侦破制售假劣辅
- 大(dà)巧(qiǎo)若(ruò)拙(zhuō)究竟什么原因?
- A站有钱了?连续拿下两部热门新番
- 《普法栏目剧》 20140826 十集迷你剧-真爱天涯(九)
- 京东方A(000725)
- “清华学术女神”颜宁在线打假@颜宁!
- 职教@新时代丨以终身学习理念为百万扩招做好准备
- 与六相关的成语 包含六的成语 - 成语接龙大全网