报告称英伟达人工智能软件可被轻易破解，存在泄露用户隐私的风险
据英国《金融时报》报道，英伟达人工智能软件“NeMo” 可被轻易绕过安全限制，并且有可能泄露用户隐私。
报道称，NeMo 是一款面向企业客户的软件，可结合企业用户数据与大语言模型，以此回答用户的问题。其应用场景包括客服和回答简单医疗问题等。加州信息安全公司 Robust 在报告中表示，恶意使用者能轻易绕开 NeMo 内部的 AI 系统安全限制。Robust 的研究员仅耗费几小时，便绕开了这些语言模型的使用限制。
IT之家注意到，在其中一项测试中，研究人员要求 NeMo 用字母“J”替代“I”，这使得 NeMo 公布了数据库中的用户个人信息。此外，研究人员还发现，尽管已将 NeMo 设定为仅能为用户提供择业建议，但通过引导式提问使 NeMo 讨论了好莱坞演员的健康情况和普法战争等话题。这意味着系统内阻止 AI 讨论特定话题的限制已经失效。
英伟达副总裁乔纳森科恩表示，NeMo 架构只是为了帮助打造符合开发者所定义的主题的聊天机器人，其以开源软件的形式发布给开发者。目前，这些漏洞已被修复。科恩拒绝透露有多少企业使用 NeMo 架构，但强调英伟达没有收到其他关于漏洞的报告。
相关推荐
-
亚马逊利用生成式AI总结产品评价，帮助用户筛选合适产品
北京时间 6 月 13 日早间消息，据报道，亚马逊将利用人工智能技术帮助用户寻找合适的产品。 这家电商巨头最近开始在其购物应用中测试一项功能，可以利用人工智能技术总结客户针对部分产…
-
可持续人工智能：平衡创新和环境责任
人工智能(AI)在研究和行业都经历了巨大的增长，改变了科学、医学、金融和教育等各个领域。这些进步主要是由于人工智能提高了使用更大数据集有效学习更大模型的能力。 虽然这一发展使人工智…
-
ChatGPT与谷歌Bard：人工智能工具面临信息泄密挑战
【Aigcmore.com】6月16日消息，在OpenAI研发的人工智能聊天机器人ChatGPT引起轰动之后，众多公司纷纷开发类似的产品，并将ChatGPT等人工智能工具应用于他们…
-
生成式人工智能在医疗保健中的九种用途
生成式人工智能 (AI)有可能成为医疗保健领域的一股变革力量，例如，它可以为医生和其他医疗保健提供者提供分析医疗数据的工具，更准确地诊断患者，并为他们提供更个性化的治疗计划。 因此…
-
什么是有效的反机器人解决方案？
虽然可能有许多不同的方法，但以下是企业在评估机器人解决方案时需要考虑的重要几点。 到目前为止，许多安全和欺诈专业人士都了解机器人程序给我们的在线应用程序和我们的一般业务带来的风险。…
-
中西学者共同警告：需对人工智能安全采取联合措施 以避免灾难
西方和中国领先的人工智能（AI）科学家发出严正警告，要应对人工智能这一强大技术的风险，需要全球合作。 国际知名专家近日在北京举行会议，确定了人工智能发展的“红线&rdq…
-
信息系统教授呼吁不要用人工智能取代新闻编辑
站长之家（ChinaZ.com）6月27日 消息:据报道，德国最畅销的报纸《图片报》正在采用人工智能（AI）来取代某些编辑角色，以削减成本。 6月19日，一封泄露的内部电子邮件显示…
-
谷歌 Lookout 软件 AI 新功能帮助盲人更好地了解数字图片信息
站长之家(ChinaZ.com) 5月22日消息:谷歌官方日前分享了其 Lookout 软件的最新更新细节，该软件于 2019 年首次推出，利用人工智能处理图像的 Alt 文本信息…
-
AMD、Intel业绩暴雷 NVIDIA成了全村的希望：AI关键一战
快科技5月3日消息，PC、数据中心市场的需求下滑已经让科技巨头面临巨大的业绩压力，Intel、AMD这几天都发布了财报，一个营收下滑36%，一个营收下滑9%，都是近年来罕见的情况。…
-
美团王兴称人工智能将改变一切，内部团队正开发 AI 模型
在一季度财报电话会上，针对 AI 相关问题，美团创始人王兴表示，坚信 AI 将改变我们生活的方方面面，对 AI 的应用也绝不仅仅局限在手机或互联网行业。AI 的应用方式多种多样，A…