报告称英伟达人工智能软件可被轻易破解，存在泄露用户隐私的风险
据英国《金融时报》报道，英伟达人工智能软件“NeMo” 可被轻易绕过安全限制，并且有可能泄露用户隐私。
报道称，NeMo 是一款面向企业客户的软件，可结合企业用户数据与大语言模型，以此回答用户的问题。其应用场景包括客服和回答简单医疗问题等。加州信息安全公司 Robust 在报告中表示，恶意使用者能轻易绕开 NeMo 内部的 AI 系统安全限制。Robust 的研究员仅耗费几小时，便绕开了这些语言模型的使用限制。
IT之家注意到，在其中一项测试中，研究人员要求 NeMo 用字母“J”替代“I”，这使得 NeMo 公布了数据库中的用户个人信息。此外，研究人员还发现，尽管已将 NeMo 设定为仅能为用户提供择业建议，但通过引导式提问使 NeMo 讨论了好莱坞演员的健康情况和普法战争等话题。这意味着系统内阻止 AI 讨论特定话题的限制已经失效。
英伟达副总裁乔纳森科恩表示，NeMo 架构只是为了帮助打造符合开发者所定义的主题的聊天机器人，其以开源软件的形式发布给开发者。目前，这些漏洞已被修复。科恩拒绝透露有多少企业使用 NeMo 架构，但强调英伟达没有收到其他关于漏洞的报告。
相关推荐
-
图像分割模型实战——用户反馈应用（2）
译者 | 朱先忠 审校 | 重楼 本篇是关于训练图像分割模型系列文章的第2部分。模型训练的目的是对用户反馈做出响应，并根据反馈(鼠标点击)调整其预测结果。 在第1部分中，我们描述了…
-
人工智能和 5G 在边缘更好
我们的世界充满了激动人心的技术，这些技术有望为企业开启新的可能性。 在某些情况下，两种新兴技术的融合会放大两者的优势，而 AI 和 5G就是此类互补技术的完美示例。 每一种都有巨大…
-
赵明谈ChatGPT：荣耀不做大模型 专注平台级AI
昨晚，荣耀举行新品发布会，正式发布MagicBook 14 2023笔记本，升级13代酷睿标压处理器，首发价4999元起。 在会后的采访中，荣耀CEO赵明被问到怎样看ChatGPT…
-
国产 1400 亿参数知未智能 KDF 大模型发布，聚焦金融和商业垂直领域
【Aigcmore.com】7月25日消息，近日，北京知未智能科技有限公司在上海举行发布会，正式推出知未智能 KDF 大模型，以及一系列基于该模型研发的金融行业工具，为相关行业的产…
-
CodeGeeX能打过Copilot吗？
写在前面 CodeGeeX是一个类似于Github Copilot的、拥有130亿参数的多编程语言代码生成的预训练模型，是由清华大学、智谱AI等机构共同研发的。 当前CodeGee…
-
金山软件一季度营收19.7亿元 雷军：将持续深耕人工智能
站长之家（ChinaZ.com）5月23日 消息:今日，金山软件发布公告称，第一季度实现营收19.7亿元，同比增长6%，环比下降7%;净利润1.92亿元，同比增长96%，环比增长3…
-
生成式AI技术的安全问题引发行业忧虑 华尔街大行纷纷禁用
【Aigcmore.com】5月4日消息，随着生成式AI的大火，越来越多的企业也加入了这场激动人心的竞赛。但是，该技术的使用也引起了安全和隐私问题的关注。三星电子最近宣布，禁止其员…
-
人工智能将如何改变软件开发者的世界？
随着越来越多的企业尝试使用AI基础模型（例如OpenAI的ChatGPT），但与此同时，自动化平台给软件开发人员带来的影响越来越明显。 一方面，这些平台可能会彻底改变开发人员的工作…
-
红帽：基于开源模式 推动 AI 技术的应用和落地
生成式 AI，无疑是2023年最火热的话题。而各大厂商也都纷纷研究生成式 AI 技术，企图搭上 AGI 这条快车道。 在近日举行的2023红帽全球峰会上，红帽宣布将生成式人工智能技…
-
7月见！华为大动作不断：将发布新款存储 面向AI大模型
快科技6月29日消息，即将到来的7月，华为要有多个大动作。 在2023 MWC上海大会期间的华为产品解决方案创新实践发布会上，华为数据存储产品线总裁周跃峰表示，AI大模型对存储带来…