重磅!英伟达发布新一代AI处理器H200,性能最高提升90

2023-11-15 10:54:28 字數 1072 閱讀 8533

近日,在2023年全球超算大会(sc23)上,英伟达引领了一次技术创新的风潮,推出了最新的ai处理器h200。这款ai芯片,专为ai大模型的训练设计,相比前一代产品h100,在性能上提升了约60%到90%。

h200继续基于hopper架构,但在多个方面进行了重要升级。这包括拥有141gb的hbm3e显存和提升至4.8tb/s的显存带宽。这些升级使得h200在大模型推理表现上显著超越h100,特别是在700亿参数的llama2大模型上的推理速度提高了一倍,同时在能耗上降低了一半。

对于显存密集型的高性能计算(hpc)应用,h200提供更高的显存带宽,确保高效地访问数据。与cpu相比,其处理速度最多可提升110倍。

由于架构相同,h200将在软件上与h100相兼容。这意味着用户可以无缝过渡到新芯片,同时保留h100的所有功能。英伟达宣称,h200在处理大模型如llama 2和gpt-3.5时的输出速度分别是h100的1.9倍和1.6倍。

英伟达加速计算总经理兼副总裁伊恩·巴克,强调了h200对于ai和hpc应用的重要性。他指出,使用大型、快速的gpu显存对于处理海量数据至关重要。

英伟达表示,鉴于市场对ai芯片的高需求,将加快新芯片架构的发布频率,计划于2023年推出基于blackwell架构的b100芯片。此外,h200预计将于2023年第二季度出货,亚马逊云科技、谷歌云、微软azure和甲骨文云将是首批部署基于h200实例的云服务提供商。

英伟达股价在周一美股交易时段**,并已连续第九个交易日**,创出自2023年12月以来的最长连涨走势。今年以来,英伟达股价累计涨幅超过230%。

英伟达的这次升级再次证明了其在ai处理器领域的技术领先地位。h200的推出不仅是对h100的性能提升,更是对整个ai和hpc领域的一次重大推动。随着ai技术的不断发展和应用的扩大,对于高性能ai处理器的需求也在不断增长。

英伟达对新技术的不断投入和快速迭代,使其在竞争激烈的市场中保持领先。这对于推动ai技术的发展,以及解决世界上一些最复杂的问题,都具有重要意义。同时,对于投资者来说,英伟达的技术创新和市场表现也提供了值得关注的投资机会。

英伟达发布新一代 AI 处理器 H200 性能最高提升 90

摘要 英伟达发布了下一代人工智能超级计算机芯片,将在深度学习和大型语言模型方面发挥重要作用。新芯片基于hopper架构,使用hbme内存,速度和容量更高,特别适合大型语言模型。而gh grace hopper 超级芯片 结合了hgx h gpu和基于arm的grace cpu,专为超级计算机而设计。...

英伟达发布 AI 系统 Eureka,可应用于机器人编程,IT有救了

eureka系统,作为一款以gpt 为支持的ai系统,正式发布,引发了广泛关注。这一系统的亮点在于,它能够使机器人实现多达三十多种复杂的动作。在一次内部评估中,nvidia使用eureka系统成功地教导了个虚拟机器人执行种不同的动作。通常情况下,工程师在构建实际机器人之前,会创建虚拟机器人的模拟版本...

英伟达 联发科合攻PC处理器!首块试验芯片有望明年Q2出厂

路透社先前报道称,英伟达 nvidia 已开始设计基于arm的cpu,可运行微软windows操作系统。摩根士丹利 大摩 认为,pc处理器对英伟达可能是小机会,但却有助于重新评级联发科。大摩指出,早在年的年度gtc大会,英伟达宣布与联发科合作,为未来笔记本带来rtx gpu,与arm驱动soc一起运...