英伟达新一代GPU问世老黄称之为英伟达史上最成功产品

太平洋科技 2024-03-20 17:55:36

太平洋科技资讯】GTC 2024上英伟达CEO黄仁勋带来全新的B200 GPU和GB200。B200 GPU集成2080亿个晶体管,可提供高达2020petaflops的FP4算力,并且还能大大降低运算的能耗。黄仁勋称之为英伟达史上最成功产品。

前不久,黄仁勋提出他对人工智能的看法,认为最重要的应该是减少AI运算的能耗,此次推出的新产品就很好的兼顾了这一点。

据了解,B200 GPU集成2080亿个晶体管,可提供高达2020petaflops的FP4算力。而GB200是结合两个GPU和一个Grace CPU,能够为LLM大模型运算提供30倍的性能,并且在效率上也可能有所提升。

相比于以往的产品具体有多少提高呢?英伟达称,在训练一个1.8万亿个参数的模型时,以前需要8000个Hopper GPU和15兆瓦的电力,但现在只需要2000个Blackwell GPU,并且耗电量只有4兆瓦,不仅高效,还节能。

而在具有1750亿个参数的GPT-3 LLM基准测试中,GB200性能是H100的7倍,运算速度是H100的4倍。凭借这些性能优势,新产品将会在新一代的NVLink交换机中起到举足轻重的作用。据悉,此次推出的新产品可实现576个GPU相互连接,双向贷款每秒可达惊人的1.8TB。

而B200、GB200采用的是Blackwell架构,黄仁勋表示,Blackwell将会倍推广值全球的AI公司。并且全球各地都在签约启动Blackwell,将会成为英伟达有史以来最成功的产品。

目前AI技术的不断发展,GPU在其中发挥了非常关键的作用,新型GPU及架构,无疑是再次狠狠地推了AI一把。但是非常遗憾,中国厂商可能无缘这款新产品,毕竟前不久的RTX4090就惨遭被禁,这款高性能产品大概率是与我们无缘了。

0 阅读:44