Meta正研发定制AI芯片:功耗低于NVIDIA
快科技5月19日消息,当地时间周四,Meta宣布,它正在研发首款专门用于运行人工智能模型的定制芯片。
Meta并不像谷歌、微软等科技巨头从事销售云计算服务的业务,过去公司从未公开谈论其内部数据中心芯片项目。但Meta高管称,全球科技界都对此表现出兴趣,所以有必要与外界沟通。
这款芯片名为Meta训练和推理加速器”(Meta Training and Inference Accelerator,简称MTIA”),功耗仅为25瓦,远低于NVIDIA等厂商的芯片功耗。
据Meta介绍,首个MTIA芯片将专注于AI推理。Meta软件工程师Joel Coburn表示,Meta最初考虑将GPU用于推理任务,但后来发现GPU并不不太适合推理工作。
GPU在真实模型应用方面的效率仍然很低,而且部署起来成本高昂。”Meta软件工程师Coburn表示,这就是我们需要MTIA的原因。”
此外,Meta还介绍了一种称作可规模化视频处理器”(MSVP)的芯片,可用于处理视频并传输,同时降低能源需求,该公司称,每天需要处理40亿个视频的任务。
相关推荐
-
为人工智能主导的未来做准备
人工智能(AI)技术的快速发展正在改变我们所知的世界。 从自动驾驶汽车到智能虚拟助手,人工智能正在改变行业,并使任务更快、更高效、更方便。随着人工智能的不断进步,重要的是要考虑我们…
2023年 5月 24日 -
用AI查询癌症相关问题,ChatGPT的回答靠得住吗?
最近进行的一项研究发现,AI聊天机器人ChatGPT为人们对癌症常见一些的误解和误区提供了97%的正确答案,但由于其间接的或可能令人困惑的语言描述引起了人们的担忧,研究人员建议患者…
2023年 6月 7日 -
Meta旗下社交应用Instagram被曝可能引入AI聊天机器人
6月7日消息,据外媒报道,Meta旗下的社交应用Instagram可能是下一款拥有人工智能(AI)聊天机器人的社交媒体应用。 据外媒报道,Instagram似乎正在测试一项新功能,…
2023年 6月 8日 -
一次读完半本「三体」!GPT-4最强竞品突然升级10万token,啃论文代码演示全搞定
在GPT-4 32K还在内测阶段,OpenAI的劲敌直接把上下文长度打了上去。 就在今天,初创公司Anthropic宣布,Claude已经能够支持100K的上下文token长度,也…
2023年 5月 17日 -
谷歌慌了!想发论文得审批,优先开发产品:ChatGPT成人工智能领域绝唱?
AI在过去十多年的飞速发展,得益于高校、企业与个人开发者的通力合作,让人工智能领域内遍布开源的代码、数据及教程。 谷歌也一直是AI行业的领军者,发表的论文横跨自然语言处理、计算机视…
2023年 5月 11日 -
ChatGPT技术影响教育工作者,教育工作者需快速适应新趋势
【Aigcmore.com】4月3日消息,一项最新研究表明,生成式人工智能技术,例如ChatGPT,对教育工作者的影响更大,因此教育工作者需要更快地适应这一趋势。宾夕法尼亚大学沃顿…
2023年 4月 24日 -
马斯克乐观展望人工智能未来:良性发展将带来丰裕乌托邦
【Aigcmore.com】5月25日消息,马斯克在《华尔街日报》CEO理事会伦敦峰会上分享了他对人工智能的看法和未来计划。尽管此前他在CNBC节目上少有深入探讨人工智能观点,但这…
2023年 5月 26日 -
谷歌发布新AI机器人模型 搭载大语言模型最新进展
当地时间周五,谷歌公司发布新的机器人模型Robotics Transformer 2(RT-2),搭载了大语言模型的最新进展,且能帮助训练机器人理解扔垃圾等任务。 RT-2是一种&…
2023年 7月 31日 -
英伟达新软件NeMo Guardrails检测AI模型幻觉,提高安全性
【Aigcmore.com】4月26日消息,人工智能(AI)的发展日新月异,但也存在一些难题,比如 AI模型有时会出现“幻觉”,即说出错误的事实、涉及有害的话题或导致安全风险。为了…
2023年 4月 28日 -
算数能力接近满分!新加坡国立大学发布Goat,仅用70亿参数秒杀GPT-4,起步支持16位数乘除法
大规模语言模型虽然在各大自然语言处理任务上都展现了优越的性能,不过算术类题目仍然是一大难关,即便是当下最强的GPT-4也很难处理基础运算的问题。 最近,来自新加坡国立大学的研究人员…
2023年 6月 15日
