手机就能跑！开源AI机器人MLC LLM发布：无需联网
快科技5月2日消息，近日，一个名为MLC LLM的项目在GitHub上线，该项目为一个能够在手机上运行的，无需联网的开源人工智能聊天机器人。
据悉，MLC LLM项目的本质是一种通用解决方案，它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。
同时，它还有着一个高效的框架，供每个人进一步优化自己用例的模型性能。
上述这一切，都在本地运行，无需服务器支持，并通过手机或笔记本电脑上的本地GPU加速。
技术上，MLC LLM使用了Vicuna-7B-V1.1，这是一种基于Meta开发的LLaMA模型的轻量级LLM，效果虽然不如GPT3.5或GPT4，但在大小方面比较占优势。
目前，该项目可用于Windows、Linux、macOS和iOS平台，但暂时还没有适用于Android的版本。
值得一提的是，MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。
相关推荐
-
库克认可生成式 AI 潜力，但如何运用需“深思熟虑”
以 ChatGPT 为代表的生成式 AI 日益火爆，苹果首席执行官蒂姆 库克在今天的财报电话会议上，针对人工智能发表了一些评论。 库克认可了人工智能的潜力，但如何运用该技术需要&l…
-
AI语音克隆产生安全漏洞
据迈克菲公司（McAfee）声称，AI技术正促使在线语音诈骗数量激增，只需要短短三秒的音频就能克隆受害者的语音。 迈克菲对来自七个国家的7054人进行了调查，结果发现四分之一的成年…
-
OpenAI将创建更多杀手级应用 提高用户对AI的控制能力
【Aigcmore.com】3月10日消息，日前，人工智能(AI)研发公司OpenAI宣布将推出新工具，使企业和个人用户可以自行定制生成式AI系统，以提高用户对AI的控制能力。Op…
-
天风证券：ChatGPT将推动AI技术在云-边-端的全面应用
【Aigcmore.com】3月24日消息，根据IDC预计，全球数据总量预期 2026 年将超过221，000exabyte，2021- 2026年年复合增长率达到21.2%。随着…
-
思必驰拟登陆科创板：发力生成式AI，短期无力推出百亿级大模型
C114讯 5月15日消息（南山）近日，思必驰科技股份有限公司公布了招股说明书，拟登陆科创板。 招股书显示，根据IDC报告，公司自2021年起，在中国语音语义市场份额排名保持第四。…
-
机构：十年后AI芯片市场规模将超过2500亿美元
研究机构IDTechEx日前发布报告，展望了2023-2033年AI芯片市场走向，预测到2033年，AI芯片市场将增长至2576亿美元，届时应用AI芯片最大的三个垂直行业是ICT、…
-
微软宣布必应与Edge浏览器整合Microsoft Shopping网购功能
【Aigcmore.com】6月30日消息，根据微软官方必应博客最新发布的消息，微软宣布将在必应搜索(Bing Search)、必应聊天(BingChat)和 Edge 浏览器中整…
-
爱尔兰传统报媒为刊发AI生成恶作剧文章道歉
站长之家（ChinaZ.com）5月17日 消息:日前，有着150年历史的有影响力的报纸《爱尔兰时报》为在发表一篇人工智能生成的恶作剧文章而道歉。 据悉，这篇题为“爱尔兰女性对假棕…
-
MasterGo提出“AI+设计系统”将是数字界面设计的实践标准
这是 AI 的时代，也是 AI 充分赋能数字界面设计师的时代。AI 为设计师带来了更丰富的创意、更高效的产出、更一致的体验，同时带来更好的团队和跨部门协同。 近日，由阿里巴巴设计出…
-
监管机构出手，谷歌暂缓在欧盟推出聊天机器人Bard
在欧盟主要数据监管机构提出隐私问题后，谷歌将不得不推迟在欧盟推出其人工智能聊天机器人 Bard 的计划。 爱尔兰数据保护委员会周二表示，谷歌目前提供的关于 Bard 如何遵守欧盟数…
