显卡天梯_显卡风扇不转正常吗_显卡

AI赛道再次加速。

3月21日,英伟达召开2023春季GTC大会,大会口号是“不要错过AI的决定性时刻”。

会上,老黄强调了三遍:“AI’s ”。

显卡_显卡风扇不转正常吗_显卡天梯

如今,再过几天,AI将迎来惊人更新,占领各大热门榜单。 各家互联网巨头纷纷进军AI行业,而掌握AI算力技术的英伟达似乎“火了”,这加速了AI行业的竞争。

在GTC 2023大会上,英伟达围绕AI推出了全新的H100 NVL GPU,据称可以将算力加速10倍。

但可惜还是不能卖到中国……

显卡天梯_显卡_显卡风扇不转正常吗

H100 NVL,速度快 10 倍

让生成式AI成为时代风口,微软、谷歌、百度、华为、阿里等科技巨头随时准备出战。

而英伟达则在这场时代之战中稳稳成为“最大军火商”。

在GTC 2023上,黄仁勋向我们展示了一款专用于训练大型语言模型(LLM)的巨型GPU——H100 NVL。

显卡_显卡天梯_显卡风扇不转正常吗

它将两颗 H100 GPU拼接在一起,拥有94GB HBM3显存,可以处理1750亿参数的GPT-3大型模型,可以说是H100的至尊版本。

在具体性能方面,黄仁勋会说,“与HGX A100相比,配备四对H100和两对的标准服务器现在可以快10倍,可以将大型语言模型的处理成本降低一个数量级震级。” 与上一代H100 SXM相比,其性能也提升了一倍。

谁能购买H100 NVL,谁就能在这场AI战斗中获得更多弹药!

据了解,这款专用GPU预计要到下半年才会正式推出。

显卡风扇不转正常吗_显卡_显卡天梯

售价方面,上一代H100的官方建议售价尚未公布,但日本市场的预售价为475万日元,约合人民币24.7万元,而H100 NVL的售价肯定更高。比这个。

价格不便宜,你可能还买不到。

2022年8月,美国监管机构以国家安全为由,对A100和H100两款GPU实施禁令,禁止其出售给中国企业。 此类芯片对于生成人工智能技术的发展至关重要。

显卡天梯_显卡风扇不转正常吗_显卡

显卡决定AI IQ

中国还只有阉割版

我们之前提到过,你创造的AI是人工智能还是人工智障,主要取决于你的计算能力和AI模型。

根据相关研究,-3.5本质上是一个拥有1800亿个参数的大模型。

要运行好这个大型模型,所需的GPU芯片数量高达2万颗。 为此,微软Azure上也部署了数万颗A100和H100高性能芯片。

业内人士曾向科技日报透露,在1万台 A100的算力下,分析数据需要2周的时间,然后工程师再花2周的时间进行二次分析,筛选出更准确的数据。 所以更新一次数据大约需要1个月的时间,一年会更新12次。

新发布的H100 NVL的计算速度是之前A100的十倍。 可以想象,更新数据所需的时间大大减少,AI的迭代更新将会更加频繁。

但现在,由于美国的禁令,最先进的A100和较新的H100都被禁止向中国销售。

显卡风扇不转正常吗_显卡_显卡天梯

为了躲避禁令,英达威还专门为中国开发了阉割版的A800来替代A100。 从参数对比来看,A800只是在A100的基础上将高速互连总线的带宽从600GB/s降低到了400GB/s。

而且,还为H100开发了阉割版,称为H800。 据消息人士透露,H800的主要目的是将芯片之间的数据传输速率降低至旗舰型号H100的一半左右。

不过,发言人拒绝透露针对中国市场的H800与H100有何不同,仅表示“我们的800系列产品完全符合出口管制法规”。

目前,这款H800的新款显卡已被阿里巴巴、百度和腾讯的云计算部门使用。

但要知道GPU的性能越高,因此数据更新速度越快,精度也越高。 以AI绘画为例。 几个月前,AI还不会画手,但现在它已经成功赢了。

显卡_显卡天梯_显卡风扇不转正常吗

如果只有一块性能被阉割的显卡,中国的AI水平与国外的差距会更大。

显卡天梯_显卡风扇不转正常吗_显卡

结语

人工智能的应用已经开始影响我们的生活和工作。 微软宣布将植入实现一键生成PPT。 未来AI的应用肯定会更加广泛。

而英伟达在先进GPU方面几乎占据垄断地位,显然已经形成了“霸权”。 对于中国来说,国产GPU虽然取得了突破,但距离量产上市还需要很长的时间。

如今,中国只能使用阉割显卡,从H100 NVL到H100再到H800,我国的AI水平将得到提升。 未来想要追赶国际水平,独立GPU还有很长的路要走。

•结尾•

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注