12月11日,科技巨头IBM宣布了一项革命性的光学技术突破,该技术能够以光速训练人工智能(AI)模型,同时显著降低能耗。IBM透露,将这项技术应用于数据中心,可以节省的能源相当于5000个美国家庭一年的用电量。
IBM指出,尽管数据中心通过光纤电缆与外界相连,但其内部通信仍然依赖于铜线。这些铜线连接着GPU加速器,而GPU加速器在等待数据传输时常常处于空闲状态,不仅消耗能源,还增加了成本。
IBM的高级副总裁兼研究总监Dario Gil表示:“随着AI对能源和处理能力需求的增长,数据中心必须进行革新。共封装光学技术(CPO)正是这一变革的关键。这项技术将使芯片间的通信像光纤电缆那样高效,开启一个更快速、更环保的通信新纪元,以应对未来AI工作负载的挑战。”
IBM在其发表的技术论文中详细介绍了CPO原型。通过大幅提升数据中心的带宽,可以大幅减少GPU的空闲时间,从而加快AI处理速度。IBM声称,采用CPO技术后,大型语言模型(LLM)的训练周期可以从三个月缩短至三周。此外,更高的能源效率将减少能源消耗,并降低训练LLM的成本。