报告称英伟达人工智能软件可被轻易破解，存在泄露用户隐私的风险
据英国《金融时报》报道，英伟达人工智能软件“NeMo” 可被轻易绕过安全限制，并且有可能泄露用户隐私。
报道称，NeMo 是一款面向企业客户的软件，可结合企业用户数据与大语言模型，以此回答用户的问题。其应用场景包括客服和回答简单医疗问题等。加州信息安全公司 Robust 在报告中表示，恶意使用者能轻易绕开 NeMo 内部的 AI 系统安全限制。Robust 的研究员仅耗费几小时，便绕开了这些语言模型的使用限制。
IT之家注意到，在其中一项测试中，研究人员要求 NeMo 用字母“J”替代“I”，这使得 NeMo 公布了数据库中的用户个人信息。此外，研究人员还发现，尽管已将 NeMo 设定为仅能为用户提供择业建议，但通过引导式提问使 NeMo 讨论了好莱坞演员的健康情况和普法战争等话题。这意味着系统内阻止 AI 讨论特定话题的限制已经失效。
英伟达副总裁乔纳森科恩表示，NeMo 架构只是为了帮助打造符合开发者所定义的主题的聊天机器人，其以开源软件的形式发布给开发者。目前，这些漏洞已被修复。科恩拒绝透露有多少企业使用 NeMo 架构，但强调英伟达没有收到其他关于漏洞的报告。
相关推荐
-
LLM+模仿学习，解决真实世界中的复杂任务：AI2提出SwiftSage
GPT-4 等大型语言模型（LLM）在许多推理任务上表现出色，然而，大部分现有研究仅关注静态环境下的任务，如回答问题或解数学题。那么，LLM 能否在真实世界中完成复杂的交互式任务呢…
-
思想克隆！前OpenAI研究员让AI模仿人类思维，现实版「机械姬」降临
当AI有了自主意识会如何？ 「机械姬」中，艾娃利用人类的同情心，以欺骗的方式诱导人类获得自由，最终杀了自己的「造物主」Nathan。 近来，在众多网友的力荐下，Sam Altman…
-
亚马逊推出新款 Echo 设备 承诺将类 ChatGPT 生成式 AI 引入其 Alexa 语音助手
站长之家(ChinaZ.com) 5月18日消息:亚马逊推出了新款的 Echo 设备，并承诺将 ChatGPT 式的人工智能引入搭载 Alexa 的设备。 亚马逊的设备与服务高级副…
-
美国白宫召开“人工智能创新前沿”会议 聚焦AI领域领先企业
【Aigcmore.com】5月8日消息，据报道，美国白宫上周四举行了“人工智能创新前沿”会议，邀请了多家知名AI研究公司的CEO参会，但未邀请meta首席执行官马克·扎克伯格。白…
-
好莱坞制片公司希望永久免费拥有演员的人工智能复制品
站长之家（ChinaZ.com）7月14日 消息:在今天的新闻发布会上，好莱坞演员宣布他们将举行罢工，SAG-AFTRA 的首席谈判代表邓肯.克拉布特里 – 爱尔兰透露…
-
亚马逊AWS推出生成式AI产品Bedrock，将与ChatGPT、Bing Chat等正面竞争
【Aigcmore.com】4月14日消息，亚马逊 AWS 在经过数月的沉默之后，正式推出了生成式 AI 产品 Bedrock。这将与 OpenAI 的ChatGPT、微软的必应聊…
-
Instruct-NeRF2NeRF，这个AI模型可以让用户通过文本编辑3D场景
站长之家（ChinaZ.com）4月19日 消息:Instruct-NeRF2NeRF 使用生成式 AI 模型的方法，可以根据文本输入编辑3D 场景。 今年早些时候，加州大学伯克利…
-
AI前哨｜英国科技之都地位遭受AI冲击 首相很心急
凤凰网科技讯 《AI前哨》北京时间6月12日消息，英国首相苏纳克将在周一告诉科技领袖，英国必须迅速采取行动，以保持其科技之都的地位，敦促他们抓住人工智能(AI)带来的机遇，并应对挑…
-
声纹欺骗大师：滑铁卢大学研究团队成功模拟逼真人声
【Aigcmore.com】6月29日消息，滑铁卢大学的计算机科学家近日研发出一款名为"声纹欺骗大师"的新型语音 Deepfake软件，据称该软件能够成功欺骗语…
-
如何仅需几个步骤在您的设备上运行Alpaca-LoRA？
译者 | 布加迪 审校 | 重楼 ChatGPT是一种人工智能（AI）语言模型，近几个月备受关注。它有两个流行的版本：GPT-3.5和GPT-4。GPT-4是GPT-3.5的升级版…