678CHAT AI资讯 IBM新光学技术,GPU不闲着,AI训练快多了

IBM新光学技术,GPU不闲着,AI训练快多了

12月11日,科技巨头IBM宣布了一项革命性的光学技术突破,该技术能够以光速训练人工智能(AI)模型,同时显著降低能耗。IBM透露,将这项技术应用于数据中心,可以节省的能源相当于5000个美国家庭一年的用电量。

IBM新光学技术,GPU不闲着,AI训练快多了插图

IBM指出,尽管数据中心通过光纤电缆与外界相连,但其内部通信仍然依赖于铜线。这些铜线连接着GPU加速器,而GPU加速器在等待数据传输时常常处于空闲状态,不仅消耗能源,还增加了成本。

IBM的高级副总裁兼研究总监Dario Gil表示:“随着AI对能源和处理能力需求的增长,数据中心必须进行革新。共封装光学技术(CPO)正是这一变革的关键。这项技术将使芯片间的通信像光纤电缆那样高效,开启一个更快速、更环保的通信新纪元,以应对未来AI工作负载的挑战。”

IBM在其发表的技术论文中详细介绍了CPO原型。通过大幅提升数据中心的带宽,可以大幅减少GPU的空闲时间,从而加快AI处理速度。IBM声称,采用CPO技术后,大型语言模型(LLM)的训练周期可以从三个月缩短至三周。此外,更高的能源效率将减少能源消耗,并降低训练LLM的成本。

本文来自网络,不代表678CHAT立场,转载请注明出处:https://www.678chat.com/ai/5609.html

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

返回顶部