提速10倍!英伟达发布ChatGPT专用GPU

2023年03月22日 12:50   21世纪经济报道 21财经APP   21视频
播放 暂停
进入全屏 退出全屏
00:00 00:00
重播 刷新试试

3月21日晚间,英伟达CEO黄仁勋在2023年GTC开发者大会上发表了主题演讲,介绍了英伟达在AI领域的最新进展,包括全新的量子计算系统、云服务平台、视觉图像系统等,以及这些技术将如何影响每个行业和日常生活。

针对算力需求巨大的 ChatGPT,英伟达发布了 NVIDIA H100 NVL,这是一种具有 94GB 内存和加速 Transformer Engine 的大语言模型(LLM)专用解决方案,配备了双 GPU NVLINK 的 PCIE H100 GPU。

“当前唯一可以实际处理ChatGPT的GPU是英伟达HGX A100。与前者相比,现在一台搭载四对H100和双NVLINK的标准服务器速度能快10倍,可以将大语言模型的处理成本降低一个数量级。”黄仁勋说。

财经日历

      • 2025年 5月
      • 28
      • 29
      • 30
      • 1
      • 2
      • 3
      • 4
      • 5
      • 6
      • 7
      • 8
      • 9
      • 10
      • 11
      • 12
      • 13
      • 14
      • 15
      • 16
      • 17
      • 18
      • 19
      • 20
      • 21
      • 22
      • 23
      • 24
      • 25
      • 26
      • 27
      • 28
      • 29
      • 30
      • 31
      • 1
      • 2
      • 3
      • 4
      • 5
      • 6
      • 7
      • 8
      查看全部

      关注我们

      站长统计