报告称英伟达人工智能软件可被轻易破解，存在泄露用户隐私的风险
据英国《金融时报》报道，英伟达人工智能软件“NeMo” 可被轻易绕过安全限制，并且有可能泄露用户隐私。
报道称，NeMo 是一款面向企业客户的软件，可结合企业用户数据与大语言模型，以此回答用户的问题。其应用场景包括客服和回答简单医疗问题等。加州信息安全公司 Robust 在报告中表示，恶意使用者能轻易绕开 NeMo 内部的 AI 系统安全限制。Robust 的研究员仅耗费几小时，便绕开了这些语言模型的使用限制。
IT之家注意到，在其中一项测试中，研究人员要求 NeMo 用字母“J”替代“I”，这使得 NeMo 公布了数据库中的用户个人信息。此外，研究人员还发现，尽管已将 NeMo 设定为仅能为用户提供择业建议，但通过引导式提问使 NeMo 讨论了好莱坞演员的健康情况和普法战争等话题。这意味着系统内阻止 AI 讨论特定话题的限制已经失效。
英伟达副总裁乔纳森科恩表示，NeMo 架构只是为了帮助打造符合开发者所定义的主题的聊天机器人，其以开源软件的形式发布给开发者。目前，这些漏洞已被修复。科恩拒绝透露有多少企业使用 NeMo 架构，但强调英伟达没有收到其他关于漏洞的报告。
相关推荐
-
ChatGPT 将日本推动人工智能应用的数字部长识别为首相
站长之家(ChinaZ.com) 5月15日消息:日本数字化转型大臣表示，ChatGPT 未能正确识别他的身份。他在接受彭博电视采访时表示：「我问 ChatGPT 谁是河野太郎，它…
-
复星保德信人寿打造“创新”人工智能技术，展现智慧转型优势
创新是永远不过时的主题， 转型也一定要经历的进程， 国内保险公司正在努力发掘ai+大数据的价值。以复星保德信人寿为例，在科研投入和应用落地上率先前进一步。 项目方案的准确资讯 经过…
-
IEEE IS评选AI十大新星，9位华人获奖！领导层要求重拟名单遭拒，停止操龙兵教授主编工作
最近人工智能领域著名杂志 IEEE Intelligent Systems公布了 2022 年度「人工智能十大新星」（AI’s 10 to Watc…
-
11 个AI工具网站可在几分钟内完成数小时的工作
1. Eesel 地址：https://www.eesel.app/ 利用AI技术无缝管理您的Google Docs、Notion页面和各种工作文档。Eesel 在您的新选项卡中方…
-
无创解码大脑信号语义，中科院自动化所研发脑-图-文多模态学习模型
论文地址：https://ieeexplore.ieee.org/document/10089190 代码地址：https://github.com/ChangdeDu…
-
推特打击AI虚假图片，将对图片添加由用户生成的事实核查信息
在一张假的“五角大楼附近爆炸”图片在平台上疯传后不久，推特宣布将其由用户生成的事实核查项目扩展到图片。该项目名为“社区笔记”，是用户…
-
GPT-5是否会实现AGI？马斯克等大佬呼吁暂停开发6个月
【Aigcmore.com】4月4日消息，近日，特斯拉CEO马斯克与一帮大佬联合请愿，希望能够暂停GPT-5开发至少6个月，并在此期间共同制定并实施一套共享的安全协议，交由独立专家…
-
AI 不受约束或成“噩梦”，八大风险不容忽视
北京时间 4 月 16 日消息，尽管人工智能 (AI) 技术的主流应用令人兴奋不已，但是如果不加以约束，一些科幻小说式的场景也会成为噩梦。 AI 会引发武器化竞赛等风险AI 安全专…
-
DeepMind CEO表示：AI可能获得自我意识
站长之家（ChinaZ.com）4月18日 消息:尽管有很多聪明人认为人工智能不会拥有自我意识，但DeepMind的CEO Demis Hassabis在接受采访时表态，认为人工智…
-
OpenAI宣布重大更新：增强语言模型API功能与性能
【Aigcmore.com】6月14日消息，OpenAI宣布对其大型语言模型API进行重大更新，以进一步提升其性能和降低使用成本。其中包括新增函数调用功能、推出16000个toke…