手机就能跑！开源AI机器人MLC LLM发布：无需联网
快科技5月2日消息，近日，一个名为MLC LLM的项目在GitHub上线，该项目为一个能够在手机上运行的，无需联网的开源人工智能聊天机器人。
据悉，MLC LLM项目的本质是一种通用解决方案，它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。
同时，它还有着一个高效的框架，供每个人进一步优化自己用例的模型性能。
上述这一切，都在本地运行，无需服务器支持，并通过手机或笔记本电脑上的本地GPU加速。
技术上，MLC LLM使用了Vicuna-7B-V1.1，这是一种基于Meta开发的LLaMA模型的轻量级LLM，效果虽然不如GPT3.5或GPT4，但在大小方面比较占优势。
目前，该项目可用于Windows、Linux、macOS和iOS平台，但暂时还没有适用于Android的版本。
值得一提的是，MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。
相关推荐
-
训练效果未及预期，31名ChatGPT训练派遣工遭解雇
4月23日消息，据知情人士爆料和内部沟通文件显示，今年3月，30余名帮助培训爆火聊天机器人ChatGPT背后语言模型的派遣工被解雇。 Slack内部聊天截图显示，截至3月16日，总…
-
人工智能初创公司Inflection AI斩获13亿美元融资 微软和谷歌等巨头领投
【Aigcmore.com】6月30日消息，在人工智能领域的热潮推动下，多家人工智能公司开始受到资本市场的关注，并相继获得融资。其中，InflectionAI作为与OpenAI竞争…
-
AI学会上网点披萨，连款都自己付了！外国小哥发布HyperWrite，网友：AI会饿吗？
想象一下，在一个阳光明媚的午后，一个AI刚刚输出完一大堆用户发来的需求，百无聊赖地打开外卖APP，打算点个什么吃。 等等，AI？AI点外卖干什么？ 先别管点外卖干啥，重要的是，能点…
-
OpenAI文本生成3D模型再升级，数秒完成建模，比Point·E更好用
生成式 AI 大模型是 OpenAI 发力的重点，目前已经推出过文本生成图像模型 DALL-E 和 DALL-E 2，以及今年初基于文本生成 3D 模型的 POINT-E。 近日，…
-
美参议员质疑 Meta 对 LLaMA 人工智能模型的处理和潜在滥用问题
站长之家(ChinaZ.com) 6月7日消息:Meta 首席执行官马克·扎克伯格 (Mark Zuckerberg)成为两名美国参议员关注的焦点人物。在今天的一封信中，参议员理查…
-
微软发布 Windows Copilot，打造 Windows 11人工智能“个人助理”
5 月 24 日消息，微软今日在其年度 Build 开发者大会上宣布，在 Windows 11 中加入一个名为 Copilot 的 AI 助手。这是一个集成在操…
-
谷歌将最新AI大语言模型渗透到广告业务，广告商及 YouTube 创作者将受益
北京时间 5 月 18 日早间消息，据报道，美国科技巨头谷歌正在把最新的生成式人工智能技术整合到其产品阵列中，而内部文件显示，谷歌网络广告业务成为最新整合的部门。 文件显示，谷歌内…
-
三星掌门人结束访美：寻求与马斯克扩大合作 还向AI领袖“取了经”
韩国三星电子周日（5月14日）表示，公司会长李在F已于当地时间周三（5月10日）在美国硅谷的三星电子北美半导体研究所会见了特斯拉的首席执行官埃隆·马斯克，并就未来高新…
-
万亿英伟达，害怕失去中国
英伟达杀疯了。 本周四美股交易中，英伟达股价大涨近25%，市值暴增1800亿美元至9393亿美元，眼瞅着就要叩开“万亿俱乐部”的大门。周五，英伟达股价再度上涨2.54%至389美元…
-
赵明谈ChatGPT：荣耀不做大模型 专注平台级AI
昨晚，荣耀举行新品发布会，正式发布MagicBook 14 2023笔记本，升级13代酷睿标压处理器，首发价4999元起。 在会后的采访中，荣耀CEO赵明被问到怎样看ChatGPT…
