报告称英伟达人工智能软件可被轻易破解，存在泄露用户隐私的风险
据英国《金融时报》报道，英伟达人工智能软件“NeMo” 可被轻易绕过安全限制，并且有可能泄露用户隐私。
报道称，NeMo 是一款面向企业客户的软件，可结合企业用户数据与大语言模型，以此回答用户的问题。其应用场景包括客服和回答简单医疗问题等。加州信息安全公司 Robust 在报告中表示，恶意使用者能轻易绕开 NeMo 内部的 AI 系统安全限制。Robust 的研究员仅耗费几小时，便绕开了这些语言模型的使用限制。
IT之家注意到，在其中一项测试中，研究人员要求 NeMo 用字母“J”替代“I”，这使得 NeMo 公布了数据库中的用户个人信息。此外，研究人员还发现，尽管已将 NeMo 设定为仅能为用户提供择业建议，但通过引导式提问使 NeMo 讨论了好莱坞演员的健康情况和普法战争等话题。这意味着系统内阻止 AI 讨论特定话题的限制已经失效。
英伟达副总裁乔纳森科恩表示，NeMo 架构只是为了帮助打造符合开发者所定义的主题的聊天机器人，其以开源软件的形式发布给开发者。目前，这些漏洞已被修复。科恩拒绝透露有多少企业使用 NeMo 架构，但强调英伟达没有收到其他关于漏洞的报告。
相关推荐
-
人工智能初创公司Inflection AI成功融资13亿美元，估值达40亿美元
【Aigcmore.com】6月30日消息，加利福尼亚帕洛阿尔托的人工智能初创公司InflectionAI宣布，他们成功从微软和英伟达等投资者那里筹集到13亿美元(约合94.25亿…
-
谷歌DeepMind联合创始人提出新方法：评估人工智能智能水平
【Aigcmore.com】6月21日消息，据彭博社报道，谷歌旗下人工智能研究实验室DeepMind的联合创始人穆斯塔法・苏莱曼(MustafaSuleyman)在他的新书中提出了…
-
广汽埃安 AION S 新增车型上市：510km 续航，售价 14.98 万元
2 月 1 日消息，广汽埃安今日宣布，AION S Plus 新版本 70 乐享版正式上市，售价 14.98 万元。 配置方面，埃安 AION S Plus 70 乐享版长宽高分别…
-
软银集团调整经营策略：转守为攻 展现实力与雄心
【Aigcmore.com】6月21日消息，软银集团在今天的年度股东大会上宣布了一项重大调整，以应对近期财务状况的压力。据软银集团首席执行官孙正义表示，他们将转变经营策略，实现“转…
-
剑指微软必应聊天，消息称谷歌将用 Magi 聊天机器人改造其搜索引擎
5 月 7 日消息，据《华尔街日报》报道，一份谷歌内部的泄露文件显示，谷歌计划用人工智能（AI）改造搜索引擎，让搜索结果更加“个性化”、“多样化”和“视觉化”，这些变化…
-
亚马逊实时AI编程助手CodeWhisperer正式免费开放
站长之家（ChinaZ.com）4月18日 消息:近日，亚马逊云科技宣布，实时AI编程助手Amazon CodeWhisperer正式可用，同时推出的还有供所有开发人员免费使用的个…
-
使用Promptr和GPT自动处理您的代码库
译者 | 布加迪 审校 | 重楼 引言 随着人工智能领域不断发展进化，我们看到了GPT、ChatGPT和Bard等强大工具的兴起。广大程序员正在使用这些工具简化其工作流程并优化代码…
-
百度文库接入文心一言 开启“AI文档助手”功能内测
站长之家（ChinaZ.com）4月28日 消息:近日，百度文库开启“AI文档助手”功能内测。据了解，该功能已内测接入百度“文心一言”，将支持多轮对话，同时可为用户提供活动方案、标…
-
OpenAI 为开发者推出 GPT 聊天机器人 API 大更新，同时降低价格
6 月 14 日消息，OpenAI 今日宣布对其大型语言模型 API（包括 GPT-4 和 gpt-3.5-turbo）进行重大更新，包括新增函数调用功能、降低使用成本、以及为 g…
-
报告称生成式 AI 提高客服 14% 生产力，上手时间从 6 个月缩短至 2 个月
根据美国全国经济研究所（NBER）公布的最新报告 [PDF]，生成式人工智能可有效提高员工的生产力，对客户服务部门员工的影响最为明显。 NBER 报告主要调查了一家财富 500 强…