手机就能跑!开源AI机器人MLC LLM发布:无需联网
快科技5月2日消息,近日,一个名为MLC LLM的项目在GitHub上线,该项目为一个能够在手机上运行的,无需联网的开源人工智能聊天机器人。
据悉,MLC LLM项目的本质是一种通用解决方案,它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。
同时,它还有着一个高效的框架,供每个人进一步优化自己用例的模型性能。
上述这一切,都在本地运行,无需服务器支持,并通过手机或笔记本电脑上的本地GPU加速。
技术上,MLC LLM使用了Vicuna-7B-V1.1,这是一种基于Meta开发的LLaMA模型的轻量级LLM,效果虽然不如GPT3.5或GPT4,但在大小方面比较占优势。
目前,该项目可用于Windows、Linux、macOS和iOS平台,但暂时还没有适用于Android的版本。
值得一提的是,MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。
相关推荐
-
人工智能推动数据中心投资
谷歌母公司Alphabet和微软的相关负责人都表示,他们希望增加云计算数据中心的支出,以支持ChatGPT 等新的人工智能 (AI) 技术。 考虑到他们正在投资自己的基于人工智能的…
2023年 5月 6日 -
Meta逆袭竞争对手,AI推荐带来Instagram用户增长
【Aigcmore.com】4月27日消息,脸书母公司meta的CEO马克·扎克伯格表示,人工智能正在为公司的脸书和Instagram平台提高流量并带来更多广告收入。meta发布的…
2023年 4月 28日 -
前谷歌顶级AI研究员创立Essential AI,兴盛资本等投资800万美元
当地时间5月4日,四位消息人士对路透社表示,两位著名的谷歌前研究人员已为其新成立的公司Essential AI筹集800万美元投资。 报道指出,兴盛资本(Thrive Capita…
2023年 5月 6日 -
美国经济学家“末日博士”:AI将释放巨大的生产力
被称为“末日博士”的美国著名经济学家努里尔·鲁比尼(Nouriel Roubini)日前表示,人工智能的进步将开启一个长期的生产力奇迹。 鲁比…
2023年 6月 16日 -
不离开应用就可搜索网络 SwiftKey 引入 Bing AI 聊天机器人
【Aigcmore.com】4月17日消息,微软的 SwiftKey 输入法集成了学习使用者语言风格等 AI 特性,并将 Bing AI聊天机器人集成到预测键盘应用程序中。随着 B…
2023年 4月 26日 -
意大利:如果 OpenAI 采取“有用措施”,ChatGPT 月底将重新上线
4 月 18日消息,据路透社报道,意大利数据保护监管机构的负责人帕斯夸莱・斯坦齐奥内(PasqualeStanzione)周二在接受《晚邮报》(Corriere della Ser…
2023年 5月 1日 -
出版商联盟成立,要求为AI数据集付费
【Aigcmore.com】3月25日消息,多家出版商联合成立联盟,希望推动相关法律法规,要求维护自身合法权益。这些出版商一直在调查训练人工智能的数据集证据,以证明这些数据集中存在…
2023年 4月 23日 -
快手:通过强化学习提升用户留存
短视频推荐系统的核心目标是通过提升用户留存,牵引 DAU 增长。因此留存是各APP的核心业务优化指标之一。然而留存是用户和系统多次交互后的长期反馈,很难分解到单个 item 或者单…
2023年 5月 3日 -
谷歌将推出新工具 来识别虚假信息和AI生成内容
谷歌正为其图像搜索增加两个新功能,以减少虚假信息的传播,特别是在当前人工智能AI工具已经使得伪造图片变得轻而易举的情况下。 Alphabet Inc.的第一个新功能被称为&ldqu…
2023年 5月 16日