下一代Meta定制的AI芯片将支持生成式AI模型。
在周三的一篇博文中,Meta表示,其Meta训练和推理加速器(MTIA)芯片的新版本“是为了AI而构建的”。
Meta的新AI芯片将支持生成式AI模型
MTIA的第一版于2023年5月发布,特别用于为公司的深度学习推荐模型提供动力。Meta表示,新芯片的计算和内存带宽将比前一代提高一倍以上,并且将支持公司的新生成式AI服务和其他AI工作负载。
下一代MTIA的设计物理尺寸将比MTIA v1大。与旧一代相比,芯片的链上内存容量为256MB,链上内存带宽为2.7 TB/s,而旧一代分别为128MB和800 GB/s。
来源:
Meta平台。
该公司表示,新芯片在早期测试阶段在四个关键模型上的表现比v1提高了3倍。
Meta将其定制芯片视为长期投资。公司表示:“我们预计,随着支持AI模型的计算要求与模型的复杂性一起增加,这项投资将在未来几年中不断增长。”
大型科技公司开始建造定制芯片
Meta建造自己的AI芯片是大型科技公司转向生产自己的芯片以满足其AI工作负载需求的日益增长的趋势之一,这是在芯片短缺的背景下进行的。
Meta表示:“(MTIA)在提供Meta特定工作负载的性能和效率上与商业可用的GPU非常协调。”
Meta的竞争对手,包括谷歌和微软,也在建造自己的AI芯片。4月9日,谷歌宣布推出一款新的专有AI芯片,据称该芯片目前可供开发人员使用,并专为数据中心定制。
ChatGPT的制造商OpenAI也计划开始生产用于AI模型的芯片。据报道,OpenAI计划为新的AI芯片业务筹集高达7万亿美元的资金,这可能成为最大的AI芯片生产商Nvidia的主要竞争对手。