Meta发布新人工智能超级计算机
Meta Platform Inc. (FB)周一表示,其研究团队建造了一款新的人工智能超级计算机,该公司认为这台计算机很快将成为世界上最快的人工智能超级计算机。
这台名为AI Research SuperCluster (简称RSC)的超级计算机是近两年工作的成果,在疫情最严重的时候通常进行远程工作,由这家Facebook母公司的人工智能和基础设施团队领导。该公司说,包括合作伙伴英伟达(Nvidia Corp., NVDA)、Penguin Computing Inc.和Pure Storage Inc.的研究人员在内的数百人参与了这个项目。
Meta 研究人员表示,新超算将能处理有数万亿参数的神经网络,相比下 OpenAI 的自然语言处理神经网络 GPT-3 有 1750 亿个参数。Meta AI 研究人员目前使用的 AI 超算有 22,000 个 Nvidia V100 Tensor Core GPU,新超算使用了 Nvidia 最新的 A100,目前包含 6,080 个 GPU,缓存容量 46 PB,主闪存 175 PB。在计算机视觉任务上新超算的性能比旧系统提高 20 倍,在大型自然语言处理上性能提升 3 倍。新超算在今年年中完成建造时将使用 16,000 个 GPU,储存容量达到 1 EB,能每秒处理 16 Tbps 的数据。
