1842年到1843年花了9个月时间翻译了Babbage的《分析机概论》的备忘录,写了很多注记,其中给出了用计算机进行Bernoulli数求解的详细说明。由此,Ada被广泛认为是世界上第一位程序员。
而以她名字命名的语言——ada语言,已经成为了美国军方开发战斗机等尖端武器的语言。
从几行简短的生平简介中,不难看出Ada的生命虽然只经历了短暂的37个春秋,但却足以被后人铭记。
这也是为什么此次NVIDIA RTX 40的先行宣传中,用到了“以未来敬传奇”的slogan,下面我们详细剖析一下,这次的Ada Lovelace还有哪些创新和超越。
4 NVIDIA Ada Lovelace架构
本次发布的GeForce RTX 40系显卡由全新的NVIDIA Ada Lovelace架构打造,采用TSMC 4nm定制工艺(TSMC 4 nm NVIDIA Custom Process),旗舰核心AD102达到了恐怖的760亿个晶体管,而在RTX 30系显卡中为280亿个。
与上一代NVIDIA Ampere相比,NVIDIA Ada Lovelace在相同功率下,具有2倍以上的性能提升。最高可达到90-TFLOPS的着色器数据吞吐量,而本次发布的GeForce RTX 4090则达到83-TFLOPs,相比上一代NVIDIA Ampere则只有40-TFOPs。
完整的AD102核心共有18432个CUDA,其中包含12个图形处理集群(GPCs), 72个纹理处理集群(TPCs), 144个流式多处理器(SMs)。144个第三代光追核心(RT cores)、576个第四代张量核心(Tensor Cores)。另外可以看到Boost频率也从1.9GHz猛增到了2.5GHz。
另外一点在架构图上没有体现的是,AD102核心还包含288个FP64双精度浮点核心(每SM 2个),用来确保FP64代码正确处理,包括FP64张量核心代码。
通常来讲,单精度浮点运算会用于深度学习模型训练,而双精度浮点运算则用于数值模拟工作。通常游戏卡都会砍掉FP64,这既节省了成本,又对游戏本身没有影响。而专业卡都保留有FP64,目的就是为了精度更高训练与计算。
此次资料中只提到了AD102核心搭载了288个FP64,尚不知道后续的推出的产品有无变更。