英伟达发文介绍“黄氏定律”，GPU推理机能十年提升1000倍-今日必看

英伟达发文介绍“黄氏定律”，GPU推理机能十年提升1000倍

来源：寻美食发布时间：2023-10-17 23:52

引言

在当下科技领域，人们对于摩尔定律的应用与适用性进行了广泛的讨论。然而，引领着计算机技术发展的英伟达公司近日发布了一项名为“黄氏定律”的声明。据英伟达最新博客所述，在过去十年间，该公司的GPU人工智能处理能力实现了1000倍的增长。这一“黄氏定律”意味着单芯片推理机能的加速不仅不会逐渐消退，反而将持续发展。英伟达首席科学家BillDally表示，“黄氏定律”所描述的“后摩尔定律时代计算机机能如何实现的结构性转变”主要依赖于人类的聪明才智。固然这一特征好像不适合被归类为定律，但Dally以为下方图表标志着“黄氏定律”的开端。

“黄氏定律”解析

据查询，英伟达并非首次提出“黄氏定律”的说法，而是IEEESpectrum杂志最早将其命名为黄仁勋定律，并因华尔街日报的一篇专栏而为人所知。根据Dally最近在HotChips2023会议上的演讲所示，过去十年间，GPU人工智能推理机能实现了1000倍的增长。与摩尔定律不同的是，工艺缩小对“黄氏定律”的进展几乎没有产生任何影响。Dally回忆起如何通过改变英伟达GPU底层数字处理来实现16倍的增长。同时，英伟达Hopper架构的推出也为这一进展做出了重要贡献。据称，Hopper利用8位和16位浮点以及整数数学的动态组合，实现了12.5倍的机能奔腾，并节约了能源。尽管摩尔定律的效益在逐渐减弱，但Dally相信“黄氏定律”仍将持续存在。

超越摩尔定律的发展

根据英伟达发布的数据，GPU在过去十年中的推理机能大幅晋升，这是一项令人瞩目的成就。而这种增长的源动力则来自于英伟达不断创新的硬件架构和技术优化。在过去的几年里，英伟达通过引入Hopper架构，使GPU在推理机能上实现了质的奔腾。

Hopper架构的动态组合计算方法，通过同时利用8位和16位浮点以及整数数学运算，彻底改变了以往仅采用32位浮点计算的方式，使GPU能够在保障准确性的条件下进步计算速度，从而实现了奔腾式的机能增长。此外，Hopper架构还大幅度节约了能源，在处理大规模数据时也表现出了更高的效率，更好地满意了人工智能和大数据处理的需求。

十年来的GPU推理机能大幅晋升，不仅仅是硬件技术的提高带来的结果，更是人类聪明才智的结晶。英伟达首席科学家BillDally夸大，这一“黄氏定律”不仅依赖于硬件的不断创新，还离不开对算法和应用的深入研究。恰是通过精益求精算法和优化应用，才能让GPU推理机能实现这样的大幅晋升。

摩尔定律的挑战

众所周知，摩尔定律曾被以为是计算机发展的重要法则。然而，跟着摩尔定律的逐渐失效，人们开始怀疑计算机工业的未来走向。因为工艺的逐渐达到极限，以及能耗问题的凸显，摩尔定律的效益已经不再显著。相比之下，英伟达提出的“黄氏定律”为计算机行业注入了新的活力，给未来的发展带来了更多但愿。

对于摩尔定律的挑战，英伟达首席科学家BillDally给出了自己的见解。他以为，固然摩尔定律的效益在减弱，但计算机机能的晋升并不仅仅依赖于工艺的改进。人类的聪明才智以及对硬件和软件的更深入的研究，将会为计算机机能的晋升带来更多可能性。恰是基于这一思路，英伟达公司不断创新，推动了GPU人工智能处理能力的大幅晋升。

尽管摩尔定律面临挑战，但计算机工业并不会停滞不前。在未来的发展中，或许会泛起更多类似“黄氏定律”的现象，为计算机行业带来更多突破。摩尔定律的失效并不意味着计算机技术的停滞，而是在向着更为开阔的领域迈进。

总结

“黄氏定律”作为一项引领计算机行业发展的新定律，在十年间英伟达GPU推理机能的巨大晋升中得到了充分的体现。通过持续不断的硬件立异和对算法优化的不懈追求，英伟达以其深挚的技术积累和聪明才智，为计算机行业注入了新的活力和但愿。