报告称英伟达人工智能软件可被轻易破解，存在泄露用户隐私的风险
据英国《金融时报》报道，英伟达人工智能软件“NeMo” 可被轻易绕过安全限制，并且有可能泄露用户隐私。
报道称，NeMo 是一款面向企业客户的软件，可结合企业用户数据与大语言模型，以此回答用户的问题。其应用场景包括客服和回答简单医疗问题等。加州信息安全公司 Robust 在报告中表示，恶意使用者能轻易绕开 NeMo 内部的 AI 系统安全限制。Robust 的研究员仅耗费几小时，便绕开了这些语言模型的使用限制。
IT之家注意到，在其中一项测试中，研究人员要求 NeMo 用字母“J”替代“I”，这使得 NeMo 公布了数据库中的用户个人信息。此外，研究人员还发现，尽管已将 NeMo 设定为仅能为用户提供择业建议，但通过引导式提问使 NeMo 讨论了好莱坞演员的健康情况和普法战争等话题。这意味着系统内阻止 AI 讨论特定话题的限制已经失效。
英伟达副总裁乔纳森科恩表示，NeMo 架构只是为了帮助打造符合开发者所定义的主题的聊天机器人，其以开源软件的形式发布给开发者。目前，这些漏洞已被修复。科恩拒绝透露有多少企业使用 NeMo 架构，但强调英伟达没有收到其他关于漏洞的报告。
相关推荐
-
摄影大奖评委认为人工智能是“共同创作”，摄影师拒绝领奖引发讨论
【Aigcmore.com】4月18日消息，德国艺术家鲍里斯・埃尔达森的黑白肖像摄影作品《虚假记忆：电工》获得了2023年度索尼世界摄影奖的创意类大奖。然而，埃尔达森在个人网站上坦…
-
GitHub报告称92%的美国程序员正在使用AI工具
在线代码托管平台 GitHub 近日对员工规模超过 1000 人的美国企业展开调查，问卷调查了 500 名企业开发人员，希望了解人工智能对开发者工作的影响。 调查结果显示 92% …
-
人工智能芯片将为智能制造 自动驾驶等领域带来变革
【Aigcmore.com】5月2日消息，近期，全球科技巨头纷纷加速自主研发人工智能芯片的步伐，以应对人工智能技术发展中所需的更强大的计算能力。 据外媒报道，meta正在计划开发一…
-
欧盟出台新规，生成式AI工具必须披露版权信息
根据一项早期的欧盟协议，部署生成性人工智能工具（如 ChatGPT）的公司将必须披露用于开发其系统的任何有版权的材料，该协议可能为世界上第一部管理该技术的全面法律铺平道路。 据路透…
-
ChatGPT正式进入车载系统：奔驰首测AI语音助手
快科技6月16日消息，梅赛德斯-奔驰和微软日前共同宣布，两家公司正在合作扩大人工智能的使用，计划将这一技术整合到车辆的语音控制系统中。 梅奔表示，这项合作将通过微软的Azure O…
-
释放 AIOps 的力量：通过智能自动化增强 DevOps 以优化 IT 运营
发现 AIOps（IT 运营人工智能）在革新 DevOps 实践方面的变革潜力。 在当今快速发展的技术环境中，人工智能(AI) 和机器学习(ML) 与 IT 运营的集成已经改变了游…
-
什么是从人类反馈中强化学习（RLHF）？
译者 | 李睿 审校 | 重楼 自从OpenAI公司发布ChatGPT以来，人们对大型语言模型(LLM)的这一重大进步感到兴奋。虽然ChatGPT与其他最先进的大型语言模型大小相同…
-
报道称OpenAI曾警告微软：发布必应聊天机器人切勿操之过急
6月14日消息，近日有报道称，人工智能初创企业OpenAI和微软在人工智能领域既有合作又有竞争。 OpenAI曾对微软发出警告，称将其大型语言模型GPT-4整合到必应搜索引擎上时需…
-
用GPT-4实现可控文本图像生成，UC伯克利&微软提出新框架Control-GPT
文本到图像生成领域近两年取得了很大的突破，从 GAN 到 Stable Diffusion，图像生成的速度越来越快，生成效果越来越好。然而，AI 模型生成的图像在细节上还有很多瑕疵…
-
神经网络之父Hinton最新公开演讲：数字智能会取代生物智能吗？
Geoffrey Hinton教授，人称“人工智能教父”，他是英国皇家学会院士(FRS)，也是加拿大皇家学会院士( FRSC)和加拿大国家勋章(CC)获得者。 牛津大学于2024年…