大模型开不开源,硅谷大佬激辩: 一方谈科学进步,另一方提美国安全
3月8日消息,风投界的两位巨头,马克·安德森(Marc Andreessen)和维诺德·科斯拉(Vinod Khosla),近期在X平台激烈辩论人工智能应该开源还是闭源,此议题迅速成为硅谷最具争议的焦点之一。
安德森等人强烈支持开源人工智能,他们认为共享知识是科学进步的关键,提高透明度能够防止大公司垄断这项革命性技术。而科斯拉等闭源人工智能的支持者认为,让私营部门掌握人工智能技术,是防止滥用和潜在风险的有效方法。
开源人工智能意味着技术将对公众免费开放,以促进共同的建设和分享。而闭源或专有人工智能则被其创作者控制,不对外公开。尽管二者看似对立,实则可以和谐共存。例如,许多公司在开源代码的基础上发展出自有的专有系统。
此场辩论起因于特斯拉CEO埃隆·马斯克(Elon Musk)对OpenAI及其CEO萨姆·奥特曼(Sam Altman)的起诉,凸显了人工智能的部署和安全问题的复杂性,特别是在监管机构、大型科技公司和科学家等对人工智能的发展边界和速度仍在探索时,想要找到明确的答案何其艰难。
在人工智能是否应该开源的争论中,身处漩涡中心的科技巨头们已经明确了各自的立场。Meta坚定支持开源人工智能,发布了Llama 2模型供全球开发者使用和改进。紧随其后的是法国Mistral AI,发布了具有开放“权重”的模型,即模型运作的核心参数。
然而,行业领头羊OpenAI和Anthropic采取了完全不同的策略,他们提供的是闭源人工智能模型,并坚持把技术牢牢控制在自己手中。
在这场辩论中,安德森于上周六通过社交媒体X发帖。他指责科斯拉正在“游说禁止开源”。这发生在科斯拉公开支持OpenAI及其CEO奥特曼之后。而他的支持是在马斯克对OpenAI提起诉讼之后表达的;马斯克指责奥特曼和OpenAI违背了公司创立时的原则,把追求利润放在了开源人工智能之前。
作为科斯拉风投公司(Khosla Ventures)的创始人,科斯拉不仅支持OpenAI的盈利性业务,还声称,人工智能就如同核武器一旦开源将可能威胁到国家安全。他甚至引用了OpenAI首席科学家伊利亚·苏茨凯弗(Ilya Sutskever)的话说,“不分享科学也是完全可以的。”
科斯拉风投公司的一位发言人进行了解释。他说,科斯拉确实曾支持开源技术。然而,科斯拉现在认为,大型人工智能模型“关乎国家安全和技术”优 势,这些模型需要得到严密保护,不应轻易开源。
安德森所在的安德森-霍洛维茨(Andreessen Horowitz)风投公司对此次开源与闭源的辩论保持缄默,对评论请求没有给出回应。
双方虽立场对立,但均认同一个观点:驱动ChatGPT等AI工具的大语言模型仍处于成长阶段。ChatGPT与其他人工智能工具面临的问题众多,包括产生幻觉性输出、偏见性结果,甚至有潜力输出有害或攻击性内容。此外,这些模型的应用和训练成本高昂,还会消耗大量能源。
开源支持者认为,正是这些技术的未成熟,更加凸显了开源的重要性。他们认为,只有在科学家和学者组成的开放的科研社区内,才能排除商业利益的干扰,共同推进通用人工智能的发展,最终实现机器能够如同人类一样学习和思考。
艾伦人工智能研究所(Allen Institute for AI)的首席执行官阿里·法哈迪(Ali Farhadi)表示:“我们现在正处在一个关键节点,大规模部署了一项我们尚未完全理解的技术,也不知道如何有效控制这些系统。”该研究所由已故微软联合创始人保罗·艾伦(Paul Allen)于2014年创立,是一个致力于人工智能研究的非营利机构。
法哈迪及其他支持开源的人士强调,共享研究成果是科学界的长久传统。人工智能的发展不是从2017年谷歌分享的“转换器”(Transformer,GPT中的T)模型开始的,其背后有更深远的历史。
同时,一些美国议员则支持科斯拉的观点,他们担心自由分享的人工智能技术可能落入国外竞争对手手中,因此认为应该加以保护。许多主张闭源的人工智能公司也持有相似立场,认为这种技术可能对人类生存构成威胁,可能带来灾难性后果。
奥特曼也强调,OpenAI高度重视其在开发人工智能方面的安全责任,坚信应该小心谨慎。他同时承认,人工智能为企业带来了巨大商业机会。
回顾历史,软件行业的开源运动,自Linux等项目兴起后蓬勃发展,为当前开放与封闭的辩论提供了丰富的历史借鉴。开源软件已成为包括云计算在内的众多技术领域的基石,其商业化甚至促成了亚马逊等科技巨头的诞生。然而,开源软件也面临着网络安全挑战,因为任何人都能轻易下载和修改代码。
专家们指出,封闭和开源技术并不是相互排斥的,两者可以并行发展。Meta负责生成人工智能的副总裁艾哈迈德·达勒(Ahmad Al-Dahle)就认为,把开源和封闭视为二选一的对立选择是误导,实际上两者各有其发展空间。
人工智能初创公司AI21的联合创始人兼联席CEO奥里·戈申(Ori Goshen)也分享了相似观点,他认为,“开源在人工智能领域扮演着至关重要的角色。即便是像AI21这样的专有供应商,其基础模型最终也可能开源,商业价值将来源于独特的知识产权。”