IBM全新光学技术可缩短GPU闲置时间，大幅加快A

12 月 11 日新闻，IBM 发布开辟出一种新的光学技巧，可能以光速练习 AI 模子，同时年夜幅节俭动力。该公司表现，经由过程将这项冲破利用于数据核心，练习一个 AI 模子所节俭的动力相称于 5000 个美国度庭一年的动力耗费。该公司说明说，固然数据核心经由过程光纤电缆与外部天下衔接，但外部依然应用铜线。这些铜线衔接着 GPU 减速器，而 GPU 减速器在等候来自其余装备的数据时会有大批时光处于闲暇状况，同时耗费能量并推高本钱。IBM 高等副总裁兼研讨总监 Dario Gil 称：“跟着天生式 AI 对更多动力跟处置才能的需要，数据核心必需退化，而共封装光学技巧（CPO）能够使这些数据核心面向将来。经由过程这一冲破，将来的芯片将像光纤电缆收支数据核心传输数据一样停止通讯，从而开启一个更快、更可连续的通讯新时期，可能处置将来的 AI 任务负载。”IT之家留神到，IBM 在一篇技巧论文中概述了其新的 CPO 原型。经由过程明显增添数据核心的带宽，能够最年夜限制地增加 GPU 的闲置时光，从而减速 AI 处置。IBM 称，年夜型言语模子（LLM）的练习时光能够从三个月收缩到三周。同时，更高的动力效力将下降动力耗费，并增加与练习 LLM 相干的本钱。【起源：IT之家】 　　申明：新浪网独家稿件，未经受权制止转载。 -->