Meta正研发定制AI芯片:功耗低于NVIDIA
快科技5月19日消息,当地时间周四,Meta宣布,它正在研发首款专门用于运行人工智能模型的定制芯片。
Meta并不像谷歌、微软等科技巨头从事销售云计算服务的业务,过去公司从未公开谈论其内部数据中心芯片项目。但Meta高管称,全球科技界都对此表现出兴趣,所以有必要与外界沟通。
这款芯片名为Meta训练和推理加速器”(Meta Training and Inference Accelerator,简称MTIA”),功耗仅为25瓦,远低于NVIDIA等厂商的芯片功耗。
据Meta介绍,首个MTIA芯片将专注于AI推理。Meta软件工程师Joel Coburn表示,Meta最初考虑将GPU用于推理任务,但后来发现GPU并不不太适合推理工作。
GPU在真实模型应用方面的效率仍然很低,而且部署起来成本高昂。”Meta软件工程师Coburn表示,这就是我们需要MTIA的原因。”
此外,Meta还介绍了一种称作可规模化视频处理器”(MSVP)的芯片,可用于处理视频并传输,同时降低能源需求,该公司称,每天需要处理40亿个视频的任务。
相关推荐
-
近半数公司表示 AI 是未来一年技术投资大预算项目
站长之家(ChinaZ.com) 6月26日消息:人工智能(AI)的热潮迅速而广泛地蔓延,近半数(47%)在 CNBC 进行调查的公司表示,AI 是他们未来一年技术投资的首要任务,…
2023年 6月 27日 -
斯坦福博士一己之力让Attention提速9倍!FlashAttention燃爆显存,Transformer上下文长度史诗级提升
继超快且省内存的注意力算法FlashAttention爆火后,升级版的2代来了。 FlashAttention-2是一种从头编写的算法,可以加快注意力并减少其内存占用,且没有任何近…
2023年 7月 27日 -
下一代人工智能超级计算机即将上线 将推动生成式AI大模型的发展
站长之家(ChinaZ.com)7月28日 消息:随着 Cerebras、Inflection、亚马逊和其他公司推出新硬件,下一代人工智能超级计算机将可用于新的生成式人工智能模型。…
2023年 7月 31日 -
MLOps的角色是什么?
你有兴趣成为一名 MLOps 工程师吗?今天详细了解 MLOps 工程师角色。 所以已经建立了一个机器学习模型。它在验证数据集上达到了预期的性能。很高兴能够应用数据科学和机器学习技…
2023年 5月 6日 -
自主AI代理:未来的生产力引擎
译者 | 崔皓 审校 | 重楼 摘要 文章介绍了自主AI代理的概念,AI代理由AI驱动,能够自我创建、优先处理和完成任务。自主AI代理可以执行任何数量的任务,包括内容创建、个人助手…
2023年 7月 31日 -
英伟达黄仁勋:日本应构建自己的人工智能
英伟达CEO黄仁勋表示,日本应该构建自己的人工智能(AI),而不是进口技术,以最好地利用该国独特的语言和数据。 随着各国建立自己的“主权AI”,英伟达看到了…
2024年 3月 20日 -
AI时代数据中心面临的挑战及投资策略
人工智能应用必须拥有海量计算能力的支持,这意味着更大、更丰富的数据中心。 人工智能使用的增加导致数据中心市场快速增长,以适应这些技术所产生的数据爆炸。将人工智能添加到已经大量可用的…
2023年 5月 16日 -
支持AI的软件交付:重新思考团队角色和职责
译者 | 刘涛 审校 | 重楼 随着与人工智能相关的新信息不断涌现,人工智能软件的交付应用也随之而来。 SaaS产业尤其处于这场变革的前沿。我们的资深技术人员和产品人员必须为这种改…
2023年 5月 18日 -
Nature发AIGC禁令!投稿中视觉内容使用AI的概不接收
作为最权威的科学期刊之一,Nature近日明确表态: 禁止使用生成式人工智能(AIGC)创作的图像和视频内容! 这也就意味着,除了主题是讨论AI的文章,任何Nature接收的作品须…
2023年 6月 26日 -
AI艺术作品引发虚假信息担忧,微软采取措施保护用户
【Aigcmore.com】5月24日消息,微软近期推出了一系列基于人工智能的软件和服务,旨在帮助用户创作艺术作品和各种项目。其中包括Bing ImageCreator和Micro…
2023年 5月 24日
