跨境资讯 • 投资数亿美金,数千枚GPU加持,微软披露ChatGPT背后的超级计算机
投资数亿美金,数千枚GPU加持,微软披露ChatGPT背后的超级计算机
题图来源:Unsplash
来自科技产业媒体《The Verge》的消息显示,微软在 2 月 13 日发表了一系列博文,介绍了 OpenAI 背后的超级计算机。微软表示,该款计算机的处理器由几千枚来自 Nvidia 的图像处理芯片(GPU)连接而成,是微软旗下 Azure 云计算平台的一部分。
博文中写道,超级计算机让 OpenAI 能够训练思维能力更强的 AI 模型,为包括 ChatGPT 以及 Bing 等工具的 AI 相关服务解锁更多潜力。微软 AI 及云计算业务副总监 Scott Guthrie 对彭博社表示,超级计算机项目的成本目前已达到数亿美元,是微软投入多年时间进行研发和优化的成果。
微软 Azure 高性能计算及 AI 业务主管 Nidhi Chappell 表示,设计超级计算机的最大难点在于建立一个高数据吞吐量、低延迟的以太网络。GPU 会被按组分配执行各项运算工作,每个 GPU 群组都必须要在上传计算结果后,才能执行下一项运算任务。因此需要大量的迭代以及优化,才可以让上千组GPU的运算效率实现最大化。
训练 AI 模型的超级计算机由数千枚 GPU 组成,这些 GPU 会被分成若干小组,分别执行各自的运算任务 | 图片来源:Microsoft
目前微软还在继续更新超级计算机,以进一步增强 Azure 云平台的 AI 模型训练能力。公司在近期上线了使用 Nivdia 旗下新款 H100 和 A100 张量计算核心 GPU 和 Quantum-2 以太网平台的新版超级电脑。微软表示,新升级后的超级电脑将帮助 OpenAI 等公司利用 Azure 训练更复杂的 AI 模型。
Azure AI 副总监 Eric Boyd 表示:“我们为 OpenAI 构建了专属的 GPU 群组,以承接训练 AI 模型所要求的大量计算工作。我们仔细听取 OpenAI 的反馈,了解他们的实际需求,以便量身打造最理想的训练环境。”
本文编译自 Microsoft spent hundreds of millions of dollars on a ChatGPT supercomputer - The Verge。
文章信息来自于白鲸出海 ,不代表跨境盒子官方立场,内容仅供网友参考学习。对于因本网站内容所引起的纠纷、损失等,跨境盒子均不承担侵权行为的连带责任。如若转载请联系原出处
上一篇
下一篇
OpenAI发布GPTBot网络爬虫工具,为AI模型训练提供便利
jf007
2023-08-09
TikTok Shop发布新结算政策:根据店铺表现采用三种结算期
jf007
2023-10-13
阿根廷发行新版最大面额纸币应对高通胀
jf007
2023-05-23
西班牙电商市场持续增长,2022年销售额超过600亿欧元
jf007
2023-06-20
巴基斯坦与IMF达成30亿美元短期融资协议稳定经济发展的里程碑
jf007
2023-07-01
亚马逊广告全球大会发布新产品和工具,助力中国出海品牌迈向全球化
jf007
2023-10-28