手机就能跑！开源AI机器人MLC LLM发布：无需联网
快科技5月2日消息，近日，一个名为MLC LLM的项目在GitHub上线，该项目为一个能够在手机上运行的，无需联网的开源人工智能聊天机器人。
据悉，MLC LLM项目的本质是一种通用解决方案，它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。
同时，它还有着一个高效的框架，供每个人进一步优化自己用例的模型性能。
上述这一切，都在本地运行，无需服务器支持，并通过手机或笔记本电脑上的本地GPU加速。
技术上，MLC LLM使用了Vicuna-7B-V1.1，这是一种基于Meta开发的LLaMA模型的轻量级LLM，效果虽然不如GPT3.5或GPT4，但在大小方面比较占优势。
目前，该项目可用于Windows、Linux、macOS和iOS平台，但暂时还没有适用于Android的版本。
值得一提的是，MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。
相关推荐
-
个人用户免费，亚马逊正式推出AI编程服务CodeWhisperer
亚马逊于 2022 年 6 月以预览版的形式，推出了 AI 辅助编程服务 CodeWhisperer。亚马逊于今天宣布该服务正式上线，并免费向个人用户开放。 CodeWhisper…
-
“WPS AI”发布：协同办公类ChatGPT应用
凤凰网科技讯 4月18日消息，金山办公正式发布了具备大语言模型能力的生成式人工智能应用，暂定代号“WPS AI”，这也是国内协同办公赛道首个类ChatGPT式应用，今后还将持续向A…
-
元宇宙玩家赶着上车ChatGPT，是跟风还是大势所趋？
两大风口对撞：元宇宙向左放缓，ChatGPT向右加速。 大热的ChatGPT正一跃成为当下科技圈热门的话题之一，压过已经火热两年之久的元宇宙。曾经三句话不离元宇宙的产业人士们又开始…
-
BingChat AI全面开放 基于GPT-4的搜索引擎将提升用户搜索体验
【Aigcmore.com】5月5日消息，微软宣布旗下基于GPT-4的人工智能搜索引擎BingChatAI正式全面开放，无需进行申请，任何用户均可直接访问并进行对话搜索。据微软消费…
-
Jetpack AI Assistant登场！Automattic推出智能写作助手，为WordPress带来新体验
【Aigcmore.com】6月8日消息，Automattic公司近日宣布推出了一项重要的更新，为广受欢迎的WordPress平台引入了全新的AI写作助手——JetpackAI A…
-
北京拟对AI训练所需的算力推行统筹供给，整合大模型中文语料库
北京市于 5 月 12 日发布了关于对《北京市促进通用人工智能创新发展的若干措施（2023-2025 年）（征求意见稿）》（下称《征求意见稿》）公开征集意见的公告，拟对 AI 训练…
-
Google内部文档泄露：开源大模型太可怕了，OpenAI也顶不住！
今天看到一篇文章，说是Google泄露了一份文档《我们没有护城河，OpenAI也没有》，描述了某位Google员工（非Google公司）对开源AI的看法，观点很有意思，大致的意思是…
-
横扫科技界，ChatGPT热潮如同当年iPhone问世，苹果这次却哑火
4月19日消息，自从上线以来，人工智能聊天机器人ChatGPT在全球范围内掀起了一股热潮，就像苹果发布新产品时所引起的轰动一样：每个人都很兴奋地想试用ChatGPT，其他科技公司…
-
研究人员研发出能听懂英语指令并执行家务的机器人
普林斯顿大学、斯坦福大学和谷歌的一组研究人员，利用 OpenAI 的 GPT-3 Davinci 模型，研发出了一款能听懂英语指令并执行家务的机器人，名为 TidyBot。这款机器…
-
近半数公司表示 AI 是未来一年技术投资大预算项目
站长之家(ChinaZ.com) 6月26日消息:人工智能（AI）的热潮迅速而广泛地蔓延，近半数（47%）在 CNBC 进行调查的公司表示，AI 是他们未来一年技术投资的首要任务，…
