报告称英伟达人工智能软件可被轻易破解，存在泄露用户隐私的风险
据英国《金融时报》报道，英伟达人工智能软件“NeMo” 可被轻易绕过安全限制，并且有可能泄露用户隐私。
报道称，NeMo 是一款面向企业客户的软件，可结合企业用户数据与大语言模型，以此回答用户的问题。其应用场景包括客服和回答简单医疗问题等。加州信息安全公司 Robust 在报告中表示，恶意使用者能轻易绕开 NeMo 内部的 AI 系统安全限制。Robust 的研究员仅耗费几小时，便绕开了这些语言模型的使用限制。
IT之家注意到，在其中一项测试中，研究人员要求 NeMo 用字母“J”替代“I”，这使得 NeMo 公布了数据库中的用户个人信息。此外，研究人员还发现，尽管已将 NeMo 设定为仅能为用户提供择业建议，但通过引导式提问使 NeMo 讨论了好莱坞演员的健康情况和普法战争等话题。这意味着系统内阻止 AI 讨论特定话题的限制已经失效。
英伟达副总裁乔纳森科恩表示，NeMo 架构只是为了帮助打造符合开发者所定义的主题的聊天机器人，其以开源软件的形式发布给开发者。目前，这些漏洞已被修复。科恩拒绝透露有多少企业使用 NeMo 架构，但强调英伟达没有收到其他关于漏洞的报告。
相关推荐
-
阿里研究员吴翰清离职，下一步或将开启 AI 短视频创业
声明：本文来自于微信公众号 CSDN（ID：CSDNnews），作者：苏宓，授权站长之家转载发布。 5月25日，据 Tech 星球报道，阿里巴巴集团研究员吴翰清已从阿里离职，接下来…
-
CLRNet：一种用于自动驾驶车道检测的分层细化网络算法
车道是具有高级语义的交通标志，特别是在视觉导航系统中尤其重要。检测车道可以使许多应用受益，例如自动驾驶和高级驾驶员辅助系统（ADAS）中的视觉导航就是一个典型的应用，它可以帮助智能…
-
AI导致失业，人类是否应该得到补偿？
声明:本文来自于微信公众号凤凰网科技（ID:ifeng_tech），作者:箫雨，授权站长之家转载发布。 人类为人工智能（AI）的训练提供了各式各样的数据，但是到头来可能会因为AI失…
-
数字文艺复兴来了：英伟达造出「AI版」米开朗基罗，实现高保真3D重建
对通过基于图像的神经渲染来恢复密集的 3D 表面，神经表面重建已被证明是可行的。然而，目前的方法很难恢复真实世界场景的详细结构。 为了解决这个问题，英伟达和约翰霍普金斯大学发布了一…
-
微软和 Epic Systems 宣布将引入 GPT-4 人工智能语言模型助力医疗保健领域
【Aigcmore.com】4月19日消息，微软和 Epic Systems 宣布将把 OpenAI 的 GPT-4人工智能语言模型引入医疗保健领域，以帮助医护人员回复患者信息和分…
-
Meta 发布 Megabyte AI 模型抗衡 Transformer：解决后者已知问题、速度提升四成
5 月 30 日消息，近日 Meta 团队开发了一款名为 Megabyte 的 AI 模型以抗衡 Transformer，据称 Megabyte 解决了 Transformer 模…
-
人工智能时代已至，锦葵新阳解析风口
雷军有一句名言在IT行业广为流传，至今经久不衰，即“站在台风口，猪都能飞上天”。 在过去的半个世纪里，我们先后经历了两次重大的“IT技术革命”，不仅改变了我们的生活，还为整个世界带…
-
AI哨所｜通用人工智能时代即将来临？这位大佬很乐观
凤凰网科技讯 《AI哨所》北京时间5月3日消息，谷歌旗下人工智能子公司DeepMind CEO戴米斯哈萨比斯（Demis Hassabis）周二表示，通用人工智能(AGI)或许在几…
-
Stack Overflow CEO透露：AI工具开发进展顺利，预示开发人员数量爆发性增长
【Aigcmore.com】7月14日消息，知名程序员问答平台Stack Overflow近日接受外媒采访，其CEO PrashanthChandrasekar透露，公司正在投入1…
-
GPT-4：突破巨大参数规模的下一步之旅
【Aigcmore.com】07月13日消息，外媒Semianalysis最近对OpenAI于今年3月发布的GPT-4大模型进行了深度揭秘。据他们透露，GPT-4在架构和参数方面有…