报告称英伟达人工智能软件可被轻易破解，存在泄露用户隐私的风险
据英国《金融时报》报道，英伟达人工智能软件“NeMo” 可被轻易绕过安全限制，并且有可能泄露用户隐私。
报道称，NeMo 是一款面向企业客户的软件，可结合企业用户数据与大语言模型，以此回答用户的问题。其应用场景包括客服和回答简单医疗问题等。加州信息安全公司 Robust 在报告中表示，恶意使用者能轻易绕开 NeMo 内部的 AI 系统安全限制。Robust 的研究员仅耗费几小时，便绕开了这些语言模型的使用限制。
IT之家注意到，在其中一项测试中，研究人员要求 NeMo 用字母“J”替代“I”，这使得 NeMo 公布了数据库中的用户个人信息。此外，研究人员还发现，尽管已将 NeMo 设定为仅能为用户提供择业建议，但通过引导式提问使 NeMo 讨论了好莱坞演员的健康情况和普法战争等话题。这意味着系统内阻止 AI 讨论特定话题的限制已经失效。
英伟达副总裁乔纳森科恩表示，NeMo 架构只是为了帮助打造符合开发者所定义的主题的聊天机器人，其以开源软件的形式发布给开发者。目前，这些漏洞已被修复。科恩拒绝透露有多少企业使用 NeMo 架构，但强调英伟达没有收到其他关于漏洞的报告。
相关推荐
-
新型人工智能框架Rodin来了！可从多种输入源生成 3D 数字化身
站长之家（ChinaZ.com）7月27日 消息:Rodin 是一个新颖的人工智能框架，可以从不同的输入源生成3D 数字化身。该框架利用了扩散模型和生成模型来生成逼真的3D 内容。…
-
微软移动端必应聊天迎来大更新：增加识别网页内容、小部件等功能
微软的必应聊天（Bing Chat）今天又带来了一些针对移动用户的重大改进，为必应聊天推出了移动端 Edge 浏览器的上下文聊天、iOS 和 Android&n…
-
奥特曼重返OpenAI董事会：看完3万份文件，调查组认定了
特别独立调查委员会发现，在去年 OpenAI 管理层动荡时，首席执行官萨姆・奥特曼（Sam Altman）的行为「不构成强制解雇」，现在他重新加入董事会了。 历时超过 110 天，…
-
谷歌发布最新人工智能语言模型“PaLM 2”
【Aigcmore.com】5月11日消息，谷歌在当地时间周三的2023年度I/O大会上推出了最新的人工智能语言模型“PaLM2”。这一模型可以为谷歌旗下的多款产品和应用提供支持，…
-
谷歌发布全新机器人模型RT-2，赋予智能垃圾分类能力
【Aigcmore.com】7月30日消息，谷歌公司近日发布了一款名为Robotics Transformer2(RT-2)的全新机器人模型。这款机器人采用了最新版本的大语言模型，…
-
人工智能推动数据中心投资
谷歌母公司Alphabet和微软的相关负责人都表示，他们希望增加云计算数据中心的支出，以支持ChatGPT 等新的人工智能 (AI) 技术。 考虑到他们正在投资自己的基于人工智能的…
-
ChatGPT强势加入芯片设计！不用学专业硬件描述语言了，说人话就行
和ChatGPT聊聊天，就可解决CPU开发过程中的一大难题？ 纽约州立大学（NYU）研究人员完成了一件看似不可能的事情： 无需专业的硬件描述语言（HDL），仅靠说人话就能设计芯片！…
-
开源大型语言模型(llm)总结
大型语言模型（LLM）是人工智能领域中的一个重要研究方向，在ChatGPT之后，它经历了快速的发展。这些发展主要涉及以下几个方面： 模型规模的增长：LLM的规模越来越大，参数数量显…
-
GPT或被抛弃？AI未来是世界级模型？中国AI模型只能存活三个？
Chat GPT热度尚未退散，一场大会又将AI大模型的注意力推向新高度。 在刚刚举办的北京智源大会上，汇聚了众多传说中的AI大佬，以张钹、张宏江为代表的国内AI最前沿领军人物，Ge…
-
行业首发「超级智绘」AI故事集，TCL实业推进AI技术应用
在ChatGPT的带动下， 2023 年AI应用成为科技企业竞相发力的赛场，从百度的文心一言到阿里的通义千问，各类AI模型快速涌出，AI模型应用“战火点燃”，场中选手“各显神通”，…