手机就能跑！开源AI机器人MLC LLM发布：无需联网
快科技5月2日消息，近日，一个名为MLC LLM的项目在GitHub上线，该项目为一个能够在手机上运行的，无需联网的开源人工智能聊天机器人。
据悉，MLC LLM项目的本质是一种通用解决方案，它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。
同时，它还有着一个高效的框架，供每个人进一步优化自己用例的模型性能。
上述这一切，都在本地运行，无需服务器支持，并通过手机或笔记本电脑上的本地GPU加速。
技术上，MLC LLM使用了Vicuna-7B-V1.1，这是一种基于Meta开发的LLaMA模型的轻量级LLM，效果虽然不如GPT3.5或GPT4，但在大小方面比较占优势。
目前，该项目可用于Windows、Linux、macOS和iOS平台，但暂时还没有适用于Android的版本。
值得一提的是，MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。
相关推荐
-
人工智能为ChatGPT和制造商赋能
ChatGPT可以通过解释来自各种传感器的大量数据来简化这一过程。 以下是人工智能用于改造制造企业的三种方式，以及ChatGPT等技术如何提升人工智能的优势。 1、加强生产线的质量…
-
麻省理工学院开发“面具”来保护图像免遭人工智能操纵
站长之家(ChinaZ.com) 7月29日 消息:麻省理工学院的一组研究人员开发了一种名为PhotoGuard的新技术，旨在防止人工智能系统未经授权地操纵图像。 Midjourn…
-
路径规划中的DRL与OR算法：对比与展望
1、什么是运筹优化 运筹学（Operations Research）作为数学、计算机科学、管理学的交叉学科，最早起源于一战中的防空作战系统，由钱学森先生引入中国，最开始的用途是优化…
-
视觉AI赋能电梯场景：梯智眼邀您共聚2023上海国际电梯展览会，智见电梯新未来
2023 年 7 月 5 日~ 7 月 8 日，第十五届中国国际电梯展览会将在国家会展中心(上海)如期举办，梯智眼受邀参展，诚邀您莅临 7 号展馆- 7515 号展位，共同探讨智慧…
-
AMD：Meta采用其云芯片支持新人工智能战略
6月14日消息，美国当地时间周二，芯片巨头AMD宣布，将在第四季度加大生产新款人工智能芯片MI300X，以挑战市场领军企业英伟达。同时，Meta正采用AMD的云芯片支持新的人工智能…
-
OpenAI披露GPU短缺挑战：ChatGPT发展受阻
【Aigcmore.com】6月8日消息，OpenAI公司在一场非公开会议上透露，GPU的严重短缺给ChatGPT的发展带来了困难。 根据《财富》杂志的报道，OpenAI公司的CE…
-
“AI 换脸”技术被滥用，揭示网络安全骗局的冰山一角
今年以来，随着ChatGPT和GPT-4等技术的应用，深度合成产品和服务日渐增多。利用AI换脸、AI拟声等虚假音视频进行诈骗的违法行为屡见不鲜，这些新的诈骗手法十分隐蔽和高效，给社…
-
三星竞逐AI存储芯片市场 准备大规模生产HBM3芯片
【Aigcmore.com】6月27日消息，三星相信存储芯片将在本十年结束之前引领人工智能超级计算领域。该公司预计在2028年前推出以存储芯片为中心的超级计算机，并认为在人工智能服…
-
微软、英伟达等领投，Inflection AI完成13亿美元融资
站长之家(ChinaZ.com) 6月30日 消息:据外媒报道，被视为OpenAI竞争对手的人工智能初创公司Inflection AI日前宣布完成13亿美元融资，此次融资由微软、L…
-
谷歌 AI 聊天机器人 Bard 给出错误答案，市值一夜蒸发逾 1000 亿美元
2 月 9 日消息，美国当地时间周三，由于谷歌新推出的 AI 聊天机器人 Bard 在回答查询时给出错误答案，导致其母公司 Alphabet 股价暴跌8%，市值缩水 1000 多亿…
