手机就能跑！开源AI机器人MLC LLM发布：无需联网
快科技5月2日消息，近日，一个名为MLC LLM的项目在GitHub上线，该项目为一个能够在手机上运行的，无需联网的开源人工智能聊天机器人。
据悉，MLC LLM项目的本质是一种通用解决方案，它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。
同时，它还有着一个高效的框架，供每个人进一步优化自己用例的模型性能。
上述这一切，都在本地运行，无需服务器支持，并通过手机或笔记本电脑上的本地GPU加速。
技术上，MLC LLM使用了Vicuna-7B-V1.1，这是一种基于Meta开发的LLaMA模型的轻量级LLM，效果虽然不如GPT3.5或GPT4，但在大小方面比较占优势。
目前，该项目可用于Windows、Linux、macOS和iOS平台，但暂时还没有适用于Android的版本。
值得一提的是，MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。
相关推荐
-
Pika放大招：今天起，视频和音效可以“一锅出”了！
就在刚刚，Pika发布了一项新功能： 很抱歉我们之前一直处于静音状态。 今天起，大家可以给视频无缝生成音效了——Sound Effects！ 生成的方式有两种： 要么给一句Prom…
-
网盘用上大模型后「真香」！压箱底黑照3秒找到，亲朋好友都不淡定了
想不到，有了AI加持，我也有在我司鲨疯的一天！ 同事的压箱底黑照，被我3秒钟就翻了出来，光速做成表情包先发制人。 喏，只需要在网盘的搜索框里输入“大笑的男人”，立马就能检索到相关图…
-
OpenAI对手Cohere获2.7亿美元融资，欲与其展开正面竞争
OpenAI 的竞争对手 Cohere 公司日前宣布已获得 2.7 亿美元（IT之家备注：当前约 19.25 亿元人民币）的新融资，Cohere 公司声称，这笔融资将作为其&ldq…
-
新的人工智能和机器人技术
人工智能(AI)和机器人技术是两个快速发展的领域，有可能彻底改变我们的生活和工作方式。 近年来，这些领域的进步令人叹为观止，毫无疑问，它们将继续塑造人类的未来。本文将探讨人工智能和…
-
我国积极构建人工智能治理体系
5月11日，第七届世界智能大会新闻发布会在京举行。会上，科技部有关负责人表示，科技部积极推动人工智能治理，构建包括政策法规、伦理规范、技术标准等在内的治理体系，发布新一代人工智能治…
-
德国协会和工会呼吁欧盟加强AI规则草案，ChatGPT对版权构成威胁
【Aigcmore.com】4月20日消息，德国42家协会和工会代表14万多名作家和表演者周三发出了一封信，敦促欧盟加强人工智能(AI)规则草案。信中指出，生成式AI(例如Chat…
-
借助人工智能颠覆的十大行业
就像科幻小说一样，人工智能(AI)已经准备好颠覆21世纪的许多行业。 对于其中一些行业，人工智能的优势是福音。而对于其他而言，这些变化可能是一个障碍。一家企业能否适应这项新技术可能…
-
英伟达CEO黄仁勋：人工智能将引领计算革命，数字鸿沟得以填平
【Aigcmore.com】5月30日消息，英伟达(NVIDIA)的CEO黄仁勋在台北Computex论坛上发表讲话，表示人工智能将引领一场计算革命，并强调了人工智能的广泛应用和其…
-
亚马逊广告业务实现两位数增长 2022年收益达380亿美元
【Aigcmore.com】5月6日消息，据亚马逊发言人证实，该公司正积极组建团队，研究AI工具，旨在为商家生成照片和视频，以帮助他们在亚马逊平台上进行广告活动。 亚马逊目前的广告…
-
前苹果员工称Siri代码设计过时 难与人工智能聊天机器人相比
【Aigcmore.com】3月16日消息，人工智能的迅猛发展正在让传统语音助手技术感到越来越吃力。近日，一位前苹果员工在接受采访时表示，苹果语音助手Siri的代码设计过时且复杂，…
