2025-05-12 14:07来源:本站
英伟达及其合作伙伴和客户在全球范围内稳步建设越来越大的计算机设施,以满足训练GPT-4等大型人工智能(AI)程序的计算密集型需求。一家为科技巨头服务的初创公司表示,随着越来越多的人工智能模型投入生产,这一努力将变得越来越重要。
光学计算初创公司Lightmatter的联合创始人托马斯?格雷厄姆(Thomas Graham)上周在纽约接受彭博情报(Bloomberg Intelligence)高级技术分析师曼迪普?辛格(Mandeep Singh)采访时表示:“人们将需要更多的计算能力,这不一定是因为缩放定律,而是因为你现在正在部署这些东西。”
辛格问格雷厄姆,像GPT-4这样的大型语言模型(llm)是否会继续“扩展”,这意味着随着OpenAI和其他公司试图实现更雄心勃勃的模型,规模会不断扩大。
格雷厄姆把这个问题反过来说,他认为人工智能计算需求的下一阶段是将训练有素的神经网络投入生产。
格雷厄姆说:“如果你把培训看作是研发,那么推理实际上是部署,当你部署它时,你将需要大型计算机来运行你的模型。”该讨论是彭博情报(Bloomberg Intelligence)主办的为期一天的会议的一部分,名为“新一代人工智能:它能实现生产力承诺吗?”
格雷厄姆的观点与英伟达首席执行官黄仁勋的观点相呼应。近几个月来,黄仁勋告诉华尔街,“扩大”人工智能的“代理”形式将需要“更复杂的(人工智能模型)训练,但也需要越来越复杂的推理”,因此,“推理计算将呈指数级增长”。
成立于2018年的Lightmatter正在开发一种芯片技术,可以使用光连接将多个处理器连接在一个半导体芯片上,这可以取代构建人工智能数据中心所需的数十个、数百个甚至数千个芯片之间的传统网络连接。光互连,就像他们所说的那样,可以比铜线更快地传输数据,而能耗只是铜线的一小部分。
Graham告诉Singh,该技术可以在数据中心机架内的计算机之间和机架之间使用,以简化计算机网络,使整个数据中心更加经济。
格雷厄姆说:“因此,去掉数据中心里的铜线,无论是打印机电路板上的服务器,还是机架之间的布线,或者全部用光纤代替,都能极大地增加带宽。”
格雷厄姆说,Lightmatter正在与许多科技公司合作,制定新的数据中心计划。“数据中心正在从零开始建设,”他说。Lightmatter已经宣布与代工半导体制造商Global Foundries建立合作关系,后者在纽约州北部设有工厂,为包括amd在内的众多芯片制造商提供服务。
在合作之外,格雷厄姆拒绝透露合作伙伴和客户的名字。他的讲话暗示,他的公司将与博通(Broadcom)或Marvell等芯片供应商合作,为b谷歌、亚马逊(Amazon)和微软(Microsoft)等为自己的数据中心设计处理器的科技巨头设计定制集成部件。
为了了解部署的规模,Graham指出,目前至少有12个新的人工智能数据中心正在规划或建设中,需要1千兆瓦的电力来运行。
“作为背景,纽约市平均每天消耗50千兆瓦的电力。所以是多个纽约。”他说,到2026年,预计全球人工智能处理将需要40千兆瓦的电力,“专门用于人工智能数据中心,也就是8个纽约中心”。
Lightmatter最近获得了4亿美元的风险投资,目前该公司的估值为44亿美元。格雷厄姆说,光物质计划在“未来几年”投入生产。
当辛格问他什么会终结公司的计划时,格雷厄姆对继续扩大人工智能计算基础设施的需求表示了信心。
他说:“如果在未来几年里,研究人员想出一种新的算法来实现人工智能,这种算法需要的计算量要少得多,比我们现在拥有的性能要高得多,而且实现人工通用智能的速度要快得多,那就会让每个人都想继续投资于指数计算的想法落空。”