NVIDIA运用AI来设计和开拓GPU 最新Hopper已拥有1.3万个电路实例_电路_芯片
在 NVIDIA Develope 上发布的新博客中,该公司重申了其上风以及它自己如何利用其 AI 功能来设计其迄今为止最强大的 GPU--Hopper H100。 NVIDIA GPU 紧张是利用最前辈的 EDA(电子设计自动化)工具设计的,但在利用 PrefixRL 方法的 AI 的帮助下,利用深度强化学习优化并行前缀电路,公司可以设计更小、更快、更节能的芯片,同时供应更好的性能。
打算机芯片中的算术电路是利用逻辑门网络(如 NAND、NOR 和 XOR)和电线构成的。空想的电路应具有以下特点:
● 小:较小的区域,以便更多电路可以安装在芯片上。
● 快速:降落延迟以提高芯片的性能。
● 花费更少的功率:芯片的功耗更低。
NVIDIA 利用这种方法设计了近 13000 个 AI 赞助电路,与同样快速且功能相同的 EDA 工具比较,它们的面积减少了 25%。但是 PrefixRL 被提到是一项打算哀求非常高的任务,并且对付每个 GPU 的物理仿照,它须要 256 个 CPU 和超过 32,000 个 GPU 小时。为了肃清这个瓶颈,NVIDIA 开拓了 Raptor,这是一个内部分布式强化学习平台,它特殊利用 NVIDIA 硬件进行这种工业强化学习。
Raptor 具有多项可提高可扩展性和演习速率的功能,例如作业调度、自定义网络和 GPU 感知数据构造。在 PrefixRL 的高下文中,Raptor 使得跨 CPU、GPU 和 Spot 实例的稠浊分配事情成为可能。
这个强化学习运用程序中的网络是多种多样的,并且受益于以下几点。
● Raptor 在 NCCL 之间切换以进行点对点传输以将模型参数直接从学习器 GPU 传输到推理 GPU 的能力。
● Redis 用于异步和较小的,例如褒奖或统计信息。
● 一种 JIT 编译的 RPC,用于处理大容量和低延迟的要求,例如上传体验数据。
NVIDIA 得出结论,将 AI 运用于现实天下的电路设计问题可以在未来带来更好的 GPU 设计。完全的论文在此处,您也可以在此处访问开拓职员博客以获取更多信息。
本文系作者个人观点,不代表本站立场,转载请注明出处!