报告称英伟达人工智能软件可被轻易破解，存在泄露用户隐私的风险
据英国《金融时报》报道，英伟达人工智能软件“NeMo” 可被轻易绕过安全限制，并且有可能泄露用户隐私。
报道称，NeMo 是一款面向企业客户的软件，可结合企业用户数据与大语言模型，以此回答用户的问题。其应用场景包括客服和回答简单医疗问题等。加州信息安全公司 Robust 在报告中表示，恶意使用者能轻易绕开 NeMo 内部的 AI 系统安全限制。Robust 的研究员仅耗费几小时，便绕开了这些语言模型的使用限制。
IT之家注意到，在其中一项测试中，研究人员要求 NeMo 用字母“J”替代“I”，这使得 NeMo 公布了数据库中的用户个人信息。此外，研究人员还发现，尽管已将 NeMo 设定为仅能为用户提供择业建议，但通过引导式提问使 NeMo 讨论了好莱坞演员的健康情况和普法战争等话题。这意味着系统内阻止 AI 讨论特定话题的限制已经失效。
英伟达副总裁乔纳森科恩表示，NeMo 架构只是为了帮助打造符合开发者所定义的主题的聊天机器人，其以开源软件的形式发布给开发者。目前，这些漏洞已被修复。科恩拒绝透露有多少企业使用 NeMo 架构，但强调英伟达没有收到其他关于漏洞的报告。
相关推荐
-
阿里AI新品“通义听悟”正式上线 智能总结、实时语音转文字等
站长之家（ChinaZ.com）6月1日 消息:在阿里云峰会·粤港澳大湾区分会场，阿里云公布了通义大模型的进展，聚焦音视频内容的AI新品“通义听悟”正式上线，成为国内首个开放公测的…
-
全球AI竞赛OpenAI推出ChatGPT iOS版本，“顶流”微美全息(WIMI.US)拥抱人工智能大时
日前，人工智能巨头OpenAI在官网宣布，其在美国正式推出了适用于iOS的ChatGPT应用程序，并表示未来几周将扩展到其他国家，支持安卓系统的App应该很快就会到来。 OpenA…
-
联发科预计将在 2024 年旗舰处理器中整合英伟达 GPU：增强人工智能和游戏功能
站长之家(ChinaZ.com) 5月17日消息:据 Digitimes 消息，预计联发科（MediaTek）将在 2024 年早期将英伟达（Nvidia）的 GPU 整合到其下一…
-
推荐九个好玩又实用的开源项目
大家好，我是Echa。 又到了周末小编分享优质资源的时候了，也是大部分粉丝们关注小编原因之一。小编也不会让大家失望，即使时间安排非常紧凑，即使私底下也接了私活。也会百忙之中腾出点时…
-
谷歌更新隐私政策规定，可使用互联网上的公开信息训练 AI 模型
7 月 4 日消息，搜索引擎巨头谷歌近期更新了其隐私政策，将使用互联网上的公开信息训练 AI 模型。 图片 2 政策中提到，谷歌现可通过收集网络上的公开信息或来自其他公共来源的信息…
-
必应搜索结果页面开始整合聊天体验
根据国外科技媒体 Bleeping Computer 报道，微软近日在必应搜索结果页面引入了必应聊天（Bing Chat）体验。不过目前仅限于特定关键词，并未覆盖所有搜索场景。 以…
-
欧盟出台新规，生成式AI工具必须披露版权信息
根据一项早期的欧盟协议，部署生成性人工智能工具（如 ChatGPT）的公司将必须披露用于开发其系统的任何有版权的材料，该协议可能为世界上第一部管理该技术的全面法律铺平道路。 据路透…
-
文生图人工智能初创公司 Stability AI 高管离职引发关注
站长之家(ChinaZ.com) 6月27日 消息:StabilityAI的高层人员离职引发了关注。近几周，这家备受瞩目的人工智能初创公司至少失去了两位高管，包括研究主管和首席运营…
-
腾讯机器狗 Max 升级：预训练和强化学习技术进一步优化动作表现
【Aigcmore.com】6月14日消息，腾讯近期再次升级了其自主研发的多模态四足机器人"机器狗Max"，为其带来了更加逼真的动作表现。据腾讯官方表示，这次升…
-
Gartner：ChatGPT推动了企业增加对AI的投资
站长之家（ChinaZ.com）5月5日 消息:自去年11月发布以来，ChatGPT 已成为互联网上增长最快的产品，并促使谷歌、微软和亚马逊等公司在其产品中采用这一新兴技术。 据 …