Meta将部署大量内部定制芯片
据报道,一份公司内部文件显示,Facebook所有者Meta Platforms公司计划今年在其数据中心部署新版本的定制芯片,旨在支持其人工智能(AI)的发展。
该芯片是Meta去年宣布的内部自研产品的第二代,可能有助于减少Meta对英伟达(Nvidia)的依赖。英伟达的这些芯片主导着AI市场,并控制着与运行人工智能工作负载相关的螺旋式上升的成本,因为业界厂商竞相推出人工智能服务器和相关产品。
这家全球最大的社交媒体公司一直在努力提高其对耗电的生成式人工智能产品的计算能力,这些产品正在推向Facebook、Instagram和WhatsApp等应用程序,以及Ray-Ban智能眼镜等硬件设备。为此,Meta花必须费数十亿美元来积累专用芯片库,并重新配置数据中心以适应它们。
半导体研究机构SemiAnalysis的创始人迪伦帕特尔(Dylan Patel)表示,以Meta的运营规模,成功部署自家研发的芯片可能会削减数亿美元的年度能源成本和数十亿美元的芯片采购成本。
运行人工智能应用程序所需的芯片、基础设施和能源已成为科技公司投资的一个“大坑”,在一定程度上抵消了围绕该技术所取得的收益。
Meta 发言人证实了在2024年将更新后的芯片投入生产的计划,称它将与该公司正在购买的数10万个现成GPU协同工作,GPU是AI服务器的首选芯片。该发言人在一份声明中表示:“我们认为,我们内部开发的加速器将与商用GPU高度互补,为特定于Meta的工作负载提供性能和效率的最佳组合。”
Meta首席执行官马克扎克伯格(Mark Zuckerberg)上个月表示,该公司计划在今年年底前从英伟达获得大约35万个H100处理器,他说,与其他供应商一起,Meta 将累积相当于 600,000个H100的计算能力。
部署自研的芯片是Meta内部AI芯片项目的一个积极转折,此前,有其他公司高管们在2022年决定取消芯片的第一次迭代,Meta公司则选择购买价值数十亿美元的英伟达GPU,这些GPU几乎垄断了一种称为训练的人工智能过程,该过程涉及将大量数据集输入模型,以教它们如何执行任务。
新芯片在Meta公司内部被称为“Artemis”,与其前身一样,只能执行AI推理任务,在这个过程中,模型被要求使用其算法进行排名判断并生成对用户提示的响应。
报道称,Meta 还在开发一种更雄心勃勃的芯片,该芯片与 GPU 一样,能够同时执行训练和推理任务。这家总部位于加利福尼亚州门洛帕克的公司去年分享了有关其第一代Meta训练和推理加速器(MTIA)计划的详细信息。
帕特尔表示,尽管早期出现了这些绊脚石,但推理芯片在处理Meta的推荐模型方面可能比耗能旺盛的Nvidia处理器效率高得多。
去年5月,Meta公布了旗下数据中心项目支持人工智能工作的细节,其中提到已打造一款定制芯片,简称MTIA,用于加快生成式 AI 模型的训练。这是Meta首次推出AI定制芯片,该公司表示MTIA是加快AI训练和推理工作的芯片家族的一份子。
MTIA全称为Meta训练和推理加速器(Meta Training and Inference Accelerator)。所谓推理是指运作经过训练的模型。MTIA是一种定制芯片(ASIC),也就是将不同电路整合在一块板上的芯片,可以将它进行编程,执行一项或多项特定任务。
Meta称,2020年设计第一代MTIA芯片,那是同名MTIA项目的部分工作。打造第一代芯片的目的是提高推荐模型的效率,那些模型服务于广告和其它新闻推送内容。第一代MTIA可以将内部128MB的内存扩展到高达128GB。在Meta设计的基准测试中,它处理了低等和中等复杂度的AI模型,效率比GPU高。
Meta软件工程师Joel Cohurn介绍新芯片时说,Meta最初用GPU执行推理任务,发现GPU不太适合这种工作。用GPU固然可以大幅优化软件,但对真实模型的效率很低,现实配置时难度大、成本高,所以Meta需要MTIA。
2023年,ChatGPT掀起AI热潮后,Meta一直在努力追赶其它硅谷巨头加速开发AI功能的脚步。
去年2月,Meta推出针对研究社区的大型语言模型LLaMA,不同于ChatGPT和必应这类聊天机器人,它是开源的研究工具,可以在非商业许可下提供给政府、社区和学术界的研究人员和实体工作者。当月有报道指出,Meta将AI率先用于广告功能,推出名为Advantage +的广告产品,针对不同的用户,让 AI 根据算法自动生成广告。
去年4月,传出Meta年底前推出AI广告工具的消息。Meta 技术官 Andrew Bosworth 当时说,Meta 将推出生成广告图像的AI工具,帮助公司针对不同的受众制作不同的图像。
去年4月,Meta公布了优于预期的第一季度业绩,并承诺要对火爆的AI领域加大押注。Meta 首席执行官扎克伯格评价第一季度业绩时表示,AI推动应用程序和业务取得良好成果,还在业绩电话会上说,对AI和元宇宙要两手抓。
上一篇:常凌乾、王杨、钱海生团队开发电微流控生物芯片实现隐球菌快速裂
下一篇:AI芯片技术的演进