手机就能跑！开源AI机器人MLC LLM发布：无需联网
快科技5月2日消息，近日，一个名为MLC LLM的项目在GitHub上线，该项目为一个能够在手机上运行的，无需联网的开源人工智能聊天机器人。
据悉，MLC LLM项目的本质是一种通用解决方案，它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。
同时，它还有着一个高效的框架，供每个人进一步优化自己用例的模型性能。
上述这一切，都在本地运行，无需服务器支持，并通过手机或笔记本电脑上的本地GPU加速。
技术上，MLC LLM使用了Vicuna-7B-V1.1，这是一种基于Meta开发的LLaMA模型的轻量级LLM，效果虽然不如GPT3.5或GPT4，但在大小方面比较占优势。
目前，该项目可用于Windows、Linux、macOS和iOS平台，但暂时还没有适用于Android的版本。
值得一提的是，MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。
相关推荐
-
消息称苹果正招募新软件工程师 涉及生成式 AI 等领域
站长之家（ChinaZ.com）6月2日 消息:据报道，苹果正在积极招聘新的软件工程师，要求其在生成式 AI 和混合现实领域都有一定经验。 在近期更新的招聘页面中，苹果明确要求招聘…
-
OpenAI发布新一代大型语言模型GPT-4 表现超越人类水平
【Aigcmore.com】3月15日消息，人工智能研究公司OpenAI发布了其下一代大型语言模型GPT-4，这是其支持ChatGPT和新必应等应用程序的最新AI大型语言模型。该公…
-
CSIG携手金山办公举办“企业行”专场 探讨AI时代文档识别前沿技术
5 月 7 日，由中国图像图形学学会（CSIG）主办、金山办公承办的“CSIG企业行”系列活动在珠海金山软件园成功举行。活动以“AI大模型时代文档识别和理解前沿技术探讨”为主题，特…
-
三个ChatGPT插件自动写书爆火，更多躺着赚钱玩法可以问AI自己！
ChatGPT插件数量大爆发！总数已达390个，与刚开放时的74个相比，增长超过400%。 而且有网友指出，其中112个都是在6月11日这一天冒出来的…… 虽然早期插件质量参差不齐…
-
Meta发布开源AI模型 ImageBind，可将多种数据流整合在一起
【Aigcmore.com】5月10日消息，meta公司发布了一项新的开源人工智能模型ImageBind。该模型可以将文本、音频、视觉数据、温度和运动读数等多种数据流整合在一起，并…
-
“AI教父”杰弗里·辛顿告别谷歌：称自己为发展人工智能而后悔
快科技5月2日消息，近日，研究AI技术将近半个世纪，被称为AI教父”的杰弗里辛顿宣布，已经从谷歌离职。 在离职的同时，杰弗里辛顿宣布，自己正式加入A批评人士的行列。 他认为，这些公…
-
人工智能推动可持续发展的五大方式
财富 500 强全球技术服务公司 DXC Technology 预测，软件将在未来五年内以五种方式帮助创造更可持续的未来。 DXC 首席技术策略师 Henrik Hvid Jens…
-
路径规划中的DRL与OR算法：对比与展望
1、什么是运筹优化 运筹学（Operations Research）作为数学、计算机科学、管理学的交叉学科，最早起源于一战中的防空作战系统，由钱学森先生引入中国，最开始的用途是优化…
-
人工智能工具监管成为加拿大政府关注焦点
【Aigcmore.com】5月26日消息，加拿大隐私监管机构25日宣布，将联合调查人工智能开发商OpenAI的数据收集和使用情况，成为最新一个密切关注AI工具监管的主要政府。 据…
-
摩根大通：英伟达将在今年的人工智能产品市场中获得60%的份额
摩根大通的一份最新报告显示，芯片设计公司英伟达将从人工智能的增长中获得巨大收益。英伟达在本周早些时候发布了 2024 年第一季度的亮眼财报，其当前季度的收入预期远超分析师的预期。 …
