报告称英伟达人工智能软件可被轻易破解，存在泄露用户隐私的风险
据英国《金融时报》报道，英伟达人工智能软件“NeMo” 可被轻易绕过安全限制，并且有可能泄露用户隐私。
报道称，NeMo 是一款面向企业客户的软件，可结合企业用户数据与大语言模型，以此回答用户的问题。其应用场景包括客服和回答简单医疗问题等。加州信息安全公司 Robust 在报告中表示，恶意使用者能轻易绕开 NeMo 内部的 AI 系统安全限制。Robust 的研究员仅耗费几小时，便绕开了这些语言模型的使用限制。
IT之家注意到，在其中一项测试中，研究人员要求 NeMo 用字母“J”替代“I”，这使得 NeMo 公布了数据库中的用户个人信息。此外，研究人员还发现，尽管已将 NeMo 设定为仅能为用户提供择业建议，但通过引导式提问使 NeMo 讨论了好莱坞演员的健康情况和普法战争等话题。这意味着系统内阻止 AI 讨论特定话题的限制已经失效。
英伟达副总裁乔纳森科恩表示，NeMo 架构只是为了帮助打造符合开发者所定义的主题的聊天机器人，其以开源软件的形式发布给开发者。目前，这些漏洞已被修复。科恩拒绝透露有多少企业使用 NeMo 架构，但强调英伟达没有收到其他关于漏洞的报告。
相关推荐
-
ChatGPT 的 Function Call 如同 C3PO 和 R2-D2 联手
ChatGPT 6 月 13 日的发布里面的 Function Call 的功能，把自然语言的世界和现在已经有的编程语言的世界打通了。虽然最终我认为整个世界将会是自然语言的世界，但…
-
威大华人团队全新多模态数据分析及生成方法JAMIE，大幅提升细胞类型、功能预测能力
近年来，随着单细胞技术的迅速发展，我们得以测量了单个细胞的各种特征从而获取单细胞多模态数据（比如scRNA-seq，scATAC-seq，Patch-seq）。 这些数据有助于我们…
-
AI大牛们预警，但眼前问题或毁灭人类风险，哪个更值得担心？
5月4日消息，建构当今人工智能基础技术的“大牛们”纷纷发出警告，称该技术存在潜在的危险。然而，他们目前尚未就人工智能的危险性或预防措施达成共识。 杰弗里·辛顿（Geoffrey H…
-
美国投资1.4亿美元成立7个国家级人工智能研究机构
【Aigcmore.com】5月5日消息，美国政府宣布将投资1.4亿美元(约合9.67亿元人民币)成立七个国家级人工智能研究机构，以确保美国在人工智能领域的领先地位，并应对由人工智…
-
冰鉴科技创始人兼董事长顾凌云：从科研到创业 打造AI领先企业
随着数字化逐步上升为推动社会经济发展的重要战略手段，人工智能、大数据、云计算、区块链、5G等数字技术加速应用，数字化转型势在必行。在冰鉴科技创始人兼董事长顾凌云的带领下，冰鉴科技目…
-
Meta推出首款定制AI芯片
5月22日消息，近日Meta推出了第一款专门为处理人工智能程序而定制的计算机芯片，名为Meta Training and Inference Accelerator，简称“MTIA…
-
得物AI平台-KubeAI推理训练引擎设计和实践
1、KubeAI介绍 KubeAI是得物AI平台，是我们在容器化过程中，逐步收集和挖掘公司各业务域在AI模型研究和生产迭代过程中的需求，逐步建设而成的一个云原生AI平台。KubeA…
-
500万token巨兽，一次读完全套「哈利波特」！比ChatGPT长1000多倍
记性差是目前主流大型语言模型的主要痛点，比如ChatGPT只能输入4096个token（约3000个词），经常聊着聊着就忘了之前说什么了，甚至都不够读一篇短篇小说的。 过短的输入窗…
-
谷歌 DeepMind 首席执行官：未来几年人工智能可能拥有「人类水平」的智能
站长之家(ChinaZ.com) 5月4日消息:谷歌 DeepMind 首席执行官 Demis Hassabis 表示，通用人工智能 (AGI) 有望在几年内变成现实。人工智能能够…
-
伦敦音乐家通过调教 ChatGPT 让其帮助制作音乐专辑
2 月 28 日消息，伦敦音乐家 David Domminney Fowler近日开始利用 ChatGPT 来制作音乐专辑。他曾和英国摇滚乐队缪斯乐队(Muse)、歌手菲尔・柯林斯…