Meta 周三公布了该公司新一代内部人工智能加速芯片的详细信息。
为何重要
Meta 计划部署新版定制数据中心芯片,以解决 Facebook、Instagram 和 WhatsApp 中运行人工智能产品所需的计算能力膨胀问题。这款内部称为 "Artemis "的芯片将帮助 Meta 减少对 Nvida AI 芯片的依赖,并降低总体能源成本。
关键语录
"该公司在一篇博文中写道:"这款芯片的架构从根本上侧重于提供计算、内存带宽和内存容量之间的适当平衡,以便为排名和推荐模型提供服务。
背景
新的 Meta Training and Inference Accelerator(MTIA)芯片是该公司广泛定制芯片工作的一部分,该工作还包括研究其他硬件系统。除了制造芯片和硬件外,Meta 还投入巨资开发必要的软件,以便以最有效的方式利用其基础设施的力量。
该公司还花费数十亿美元购买英伟达(Nvidia)和其他人工智能芯片: 今年,公司首席执行官马克-扎克伯格(Mark Zuckerberg)表示,公司计划从英伟达(Nvidia)购买大约 35 万颗 H100 旗舰芯片。他说,加上其他供应商,Meta 计划今年积累相当于 60 万个 H100 芯片。
数量
台湾积体电路制造股份有限公司将采用其 "5 纳米 "工艺生产新芯片。Meta 表示,它的性能是第一代处理器的三倍。
下一步计划
该芯片已被部署到数据中心,为人工智能应用服务。该公司表示,它正在实施几个项目,"旨在扩大MTIA的范围,包括支持(生成式人工智能)工作负载"。