手机就能跑!开源AI机器人MLC LLM发布:无需联网
快科技5月2日消息,近日,一个名为MLC LLM的项目在GitHub上线,该项目为一个能够在手机上运行的,无需联网的开源人工智能聊天机器人。
据悉,MLC LLM项目的本质是一种通用解决方案,它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。
同时,它还有着一个高效的框架,供每个人进一步优化自己用例的模型性能。
上述这一切,都在本地运行,无需服务器支持,并通过手机或笔记本电脑上的本地GPU加速。
技术上,MLC LLM使用了Vicuna-7B-V1.1,这是一种基于Meta开发的LLaMA模型的轻量级LLM,效果虽然不如GPT3.5或GPT4,但在大小方面比较占优势。
目前,该项目可用于Windows、Linux、macOS和iOS平台,但暂时还没有适用于Android的版本。
值得一提的是,MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。
相关推荐
-
UCloud优刻得与达观数据战略合作,联合打造人工智能大模型开放创新算力平台
近日,达而观信息科技(上海)有限公司(以下简称:达观数据)与优刻得科技股份有限公司(以下简称:UCloud优刻得)签署协议并达成战略合作关系。基于达观数据在GPT大模型与文本智能处…
2023年 4月 15日 -
Elevate 完成新一轮 2800 万美元融资 使用人工智能技术满足核心需求
站长之家(ChinaZ.com) 4月25日消息:消费者福利管理平台 Elevate 日前宣布完成了一轮融资,由 Anthemis 牵头、Fin Capital Norwest V…
2023年 4月 26日 -
实测文心X1:便宜大碗还能自主调用工具,引发硅谷反思?
Image source: Generated by AI 又一家中国模型引发了硅谷大模型界的反思!这次,是百度文心X1。 知名风投机构Benchmark合伙人Bill Gurle…
2025年 3月 18日 -
韩国加入人工智能竞赛,Rebellions 推出功耗只有英伟达 A100 约 20% 的 AI 芯片
2 月 13 日消息,人工智能是目前科技行业当下最热门的话题。目前微软支持的 OpenAI 公司所开发的聊天机器人 ChatGPT在发布仅两个月后就成为了历史上增长最快的消费应用,…
2023年 4月 21日 -
Mate60或将首发 华为鸿蒙4.0秋季发布:AI会是亮点
快科技4月18日消息,在昨天的新品发布会上,华为不仅推出了AITO问界5、问界9等新车型,还提到了鸿蒙新系统的消息,其中4季度上市的M9将搭载HarmonyOS4鸿蒙智能座舱。 华…
2023年 4月 20日 -
谷歌受到诉讼 指控窃取了数百万用户的数据来训练人工智能工具
站长之家(ChinaZ.com) 7月13日 消息:据CNN报道,周二,科技巨头谷歌遭到了一场诉讼,指控该公司未经数百万用户同意就窃取了他们的数据,并违反了版权法,起诉谷歌使用这些…
2023年 7月 14日 -
最近爆火的AutoGPT真的有那么好用吗?
如果说GPT是单字接龙,ChatGPT是饱读诗书(有时间范围的)的聊天学者,那么autoGPT,我理解就是一个能够自主思考,自己驱动的助理,相比于ChatGPT聊天式的互动方式,A…
2023年 5月 2日 -
杰弗里·辛顿警示:AI对人类的威胁可能要比天灾造成的影响更广泛
【Aigcmore.com】5月6日消息,人工智能的发展给人类文明带来了无数的机遇和挑战。然而,随着人工智能技术的不断发展,一些科学家和专家开始担心,AI可能最终导致人类的终结。 …
2023年 5月 7日 -
监管机构出手,谷歌暂缓在欧盟推出聊天机器人 Bard
6 月 14 日消息,在欧盟主要数据监管机构提出隐私问题后,谷歌将不得不推迟在欧盟推出其人工智能聊天机器人 Bard 的计划。 爱尔兰数据保护委员会周二表示,谷歌目前提…
2023年 6月 26日 -
赛灵力推出「达尔文」大模型,为生物领域打造AI大脑!
7 月 4 日,由赛灵力联合清华珠三角研究院、赛业生物、大湾区科创中心共同举办的“达尔文大模型发布会”圆满落幕。在众多嘉宾和人民日报、广州日报、新华网等媒体的共同见证下,赛灵力首 …
2023年 7月 5日