手机就能跑！开源AI机器人MLC LLM发布：无需联网
快科技5月2日消息，近日，一个名为MLC LLM的项目在GitHub上线，该项目为一个能够在手机上运行的，无需联网的开源人工智能聊天机器人。
据悉，MLC LLM项目的本质是一种通用解决方案，它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。
同时，它还有着一个高效的框架，供每个人进一步优化自己用例的模型性能。
上述这一切，都在本地运行，无需服务器支持，并通过手机或笔记本电脑上的本地GPU加速。
技术上，MLC LLM使用了Vicuna-7B-V1.1，这是一种基于Meta开发的LLaMA模型的轻量级LLM，效果虽然不如GPT3.5或GPT4，但在大小方面比较占优势。
目前，该项目可用于Windows、Linux、macOS和iOS平台，但暂时还没有适用于Android的版本。
值得一提的是，MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。
相关推荐
-
微软与OpenAI合作 将必应搜索引擎整合到ChatGPT中
【Aigcmore.com】05月24日消息，微软在当地时间周二宣布，将与OpenAI合作，将必应搜索引擎整合到OpenAI的聊天机器人ChatGPT中，成为ChatGPT的默认搜…
-
云天励飞全新AI芯片DeepEdge10将在第六届数字中国建设峰会亮相
人工智能技术逐渐成为推动经济增长的主要引擎之一。今年 4 月 27 日至 28 日，第六届数字中国建设峰会将在福州海峡国际会展中心举行，以“加快数字中国建设，推进中国式现代化”为主…
-
软银集团 CFO：AI 革命即将到来 我们正准备主动出击
站长之家(ChinaZ.com) 5月12日消息:至少在过去 6 年中，软银总裁孙正义一直是人工智能的积极倡导者，早在 OpenAI 的 ChatGPT 让全世界意识到 AI 的潜…
-
学会对GPT提问，让你效率大大提升
在现实的应用中，很多人面对GPT这个强大的工具不知道如何运用，如果仅仅是当成一个问答工具，那就太浪费这个工具了，很多人说GPT不就是智能版的搜索引擎吗？ 其实并非如此，搜索引擎给你…
-
机器学习和物联网的交叉：智能设备和预测分析
智能家居的未来：集成机器学习和物联网，以增强预测分析。 机器学习和物联网(IoT)的交叉正在彻底改变我们生活、工作以及与环境互动的方式。这种技术融合使智能设备的发展成为可能，这些设…
-
谷歌AI机器人Bard新增生成、调试和代码解释功能
站长之家（ChinaZ.com）4月23日 消息:谷歌公司AI聊天机器人Bard现在可以帮助软件开发人员编程，包括生成代码、包括生成代码、调试和代码解释，这些功能是基于用户需求新增…
-
我国积极构建人工智能治理体系
5月11日，第七届世界智能大会新闻发布会在京举行。会上，科技部有关负责人表示，科技部积极推动人工智能治理，构建包括政策法规、伦理规范、技术标准等在内的治理体系，发布新一代人工智能治…
-
微软暗示带有第三方人工智能插件的 Windows 11 Copilot 即将推出
站长之家(ChinaZ.com) 7月31日消息:微软的 Windows Copilot 插件支持即将推出，并且微软正在征求开发者的反馈，以帮助塑造操作系统的「第三方 AI 插件」…
-
1984年的IBM PC上成功运行ChatGPT客户端
【Aigcmore.com】3月27日消息，近日，网名为 yeokm1 的开发者在1984年的IBM便携式PC5155上成功构建了可在MS-DOS系统上使用的ChatGPT客户端。…
-
量子机器学习Variational Quantum Classifier (VQC)简介
变分量子分类器（Variational Quantum Classifier，简称VQC）是一种利用量子计算技术进行分类任务的机器学习算法。它属于量子机器学习算法家族，旨在利用量子…
