英伟达推出新款AI芯片H200,性能再飞跃,股价有望九连涨
发布日期:2023-12-05 13:38    点击次数:62
行情图 查看最新行情

  来源:华尔街见闻

  英伟达对其火爆的H100 GPU进行重磅升级,以巩固市场主导地位。英伟达推出H200新款GPU,具备使用HBM3e高带宽内存的能力,集成141GB内存,在Llama 2上的推理速度比H100快一倍。大型计算机制造商和云服务提供商预计明年二季度开始使用。

  北京时间周一晚,英伟达发布下一代人工智能超算芯片。

  英伟达对其火爆的H100 人工智能GPU进行了重磅升级,最新款高端芯片名为H200,基于英伟达的“Hopper”架构,是该公司第一款使用HBM3e高带宽内存的GPU,这种内存速度更快、容量更大,因此更适合处理大型数据集,而这是开发大型语言模型所必需的。

  英伟达公司表示,基于HBM3e,H200以每秒4.8 TB的速度提供141GB的内存,与A100相比,容量几乎是其两倍、带宽增加了2.4倍。

  在备受瞩目的人工智能领域,英伟达提到,H200将带来进一步的性能飞跃。在Llama 2(700亿参数的LLM)上的推理速度比H100快了一倍。未来的软件更新预计会给H200带来额外的性能领先优势和改进。

  H200将在具有四路和八路配置的英伟达HGX H200服务器主板中提供,并与HGX H100系统的硬件和软件兼容。

  大型计算机制造商和云服务提供商预计将于明年第二季度开始使用H200。亚马逊的AWS、Alphabet公司的谷歌云、微软Azure和甲骨文的云基础设施,都承诺从明年开始使用这款新芯片。

  英伟达负责超大规模和高性能计算的副总裁Ian Buck表示,“要通过生成式AI和高性能计算HPC应用程序来创建智能,必须使用大型、快速的GPU,高速有效地处理大量数据。借助H200,业界领先的端到端AI超级计算平台能够更快地解决世界上一些最重要的挑战。”

  英伟达表示,通过新产品,公司正试图跟上用于创建人工智能模型和服务的数据集的规模。添加增强的内存能力将使H200在用数据轰炸软件时速度更快,也即训练AI执行图像识别和语音等任务的过程。媒体援引英伟达数据中心产品的负责人的话说,“当你观察市场上正在发生的事情时,你会发现模型正在迅速扩大。这是我们继续迅速推出最新、最先进技术的又一个例子。”

  英伟达早盘一度追随美股大盘小幅下跌,盘中急速拉涨,上涨约1.4%,有望连续第九个交易日上涨。

  伴随着人工智能的火爆,英伟达的高端GPU需求量极大。这也令其他芯片制造商瞄准这一利润丰厚的市场,加快推出高品质的AI芯片,整个AI芯片市场竞争相当激烈。英伟达此举旨在巩固其在AI计算市场的主导地位。

  AMD将于本季度推出MI300芯片,AMD透露,已有多家超大规模云服务商承诺将部署MI300芯片产品。业内人士透露,拥有更大显存的MI300,在部署32K上下文窗口的GPT-4模型时效果更好。具体来说,与H100相比,MI300的性能优势在20%-25%,具体取决于上下文长度和提示长度/每次查询输出的token数量。

  此外,英特尔公司声称其AI芯片Gaudi 2比H100更快。

  近日市场还关注的热点是,英伟达已开发出针对中国市场的最新改良版系列芯片——HGXH20、L20PCle和L2PCle。据澎湃新闻,有知情人士称,最新三款芯片是由H100改良而来。英伟达最快或将于本月16号之后公布,国内厂商最快将在这几天拿到产品。多位产业链人士均证实英伟达改良版芯片属实。

  对此,环球时报评论文章称,有人说,美国政府和英伟达展开了一场限制与反限制的“猫鼠游戏”。从表面上看好像是这样,但这个比喻模糊了问题的本质,也混淆了是非。英伟达和美国政府的这几个回合,是一个正当做生意的高科技企业,遭遇来自政治对自由贸易的强力干扰、束缚和破坏,为了自己的生存与发展想尽办法的故事。对商业公司来说,这一点也不搞笑,甚至有些悲哀。美国对华的芯片出口管制措施是没道理的,它不仅对中国利益有害,也对美国利益有害,已经有越来越多的人看到这一点,并希望华盛顿作出调整。

  英伟达将于下周公布财报。今年其AI GPU广受欢迎,推动了该公司业绩的井喷。市场预计英伟达本财报季的收入将激增170%。

现在送您60元福利红包,直接提现不套路~~~快来参与活动吧! 海量资讯、精准解读,尽在新浪财经APP

责任编辑:李桐





Powered by 正规股票配资开户 @2013-2022 RSS地图 HTML地图

Copyright 站群系统 © 2013-2021 365建站器 版权所有