NVIDIA推出安全“护栏”：限制人工智能“一本正经的胡扯”
快科技4月26日消息，随着ChatGPT等生成式人工智能的出现，越来越多的用户在享受便利的同时发现，AI经常会出现一本正经的胡扯”的现象，有时甚至会有一些让人细思极恐的发言。
近日，NVIDIA推出了一款名为NeMo Guardrails的软件，它能够为人工智能模型设置安全护栏”，避免AI输出一些不良的内容。
据悉，NeMo Guardrails的本质是一个位于用户和模型之间的软件层，它能够在模型输出不良内容前进行拦截和修改。
比如，如果用户需要一个针对特定方向的AI，就可以利用该软件，来限制AI至输出对应方面的内容，而不谈论不相关的话题。
此外，该软件还能够利用一个AI模型检测另一个AI模型，如果两个模型输出的答案不一致，软件将直接输出我不知道”的回答。
通过这种方式，人工智能胡说八道”的情况会得到有效降低，一些可能存在危险的回复也能够被直接拦截。
相关推荐
-
分不清梦境和现实？只因大脑想象与视觉功能由同一区域负责
只要一睁开眼，梦里的一亿大奖便不翼而飞了……这样的场景仿佛每天都在上演，但我们为什么要等到醒来才发现梦不是现实呢？ 一项跨越百余年的脑科学探索发现，原来想象与视觉在大脑中本就是由同…
-
人工智能为ChatGPT和制造商赋能
ChatGPT可以通过解释来自各种传感器的大量数据来简化这一过程。 以下是人工智能用于改造制造企业的三种方式，以及ChatGPT等技术如何提升人工智能的优势。 1、加强生产线的质量…
-
未来App开发新趋势 ChatGPT的快速普及与人工干预的逐渐淘汰
【Aigcmore.com】3月27日消息，近日，一个名叫MortenJust的开发者利用GPT-4技术在SwiftUI创建了一款App，这款程序目前已经通过审核并上架，名为“5M…
-
像相机一样变焦、填充画面细节，还能自定义风格，AI作画神器Midjourney又更新了
那个大名鼎鼎的 AI 作画神器 Midjourney 又来给用户震撼了，继上个月推出 5.1 版本后，它又很快更新了 5.2 版本。 此次更新包括改进美学风格、生成连贯性、文本理解…
-
AI也有焦虑症？专家：微调模型AI可供医生研究“精神病人”
快科技5月27日消息，德国一项研究显示，GPT3.5在人类常用的焦虑症测试问卷中获得了较高的分数。 AI被提示诱导进入焦虑情景后，产生了特定的决策判断和偏见行为，这意味着AI有可能…
-
用 Photoshop AI 绘图功能扩展名画、专辑封面，网友玩出新花样
上周末 Adobe Photoshop 测试版上线了一个名为“Generative Fill”的 AI 图像合成工具，该功能一经推出便获得了网友追捧，许多网…
-
有证据了，MIT表明：大型语言模型≠随机鹦鹉，确实能学到语义
虽然大型预训练语言模型（LLM）在一系列下游任务中展现出飞速提升的性能，但它们是否真的理解其使用和生成的文本语义？ 长期以来，AI社区对这一问题存在很大的分歧。有一种猜测是，纯粹基…
-
中国工程院院士戴琼海：5年后大模型将成为AI应用关键基础平台
中国工程院院士、中国人工智能学会理事长戴琼海在中关村论坛上表示，大模型研究代表成果完全由美国主导，我国阿里、百度、清华等单位及时跟进，大模型预计5年左右将成为人工智能…
-
谷歌 DeepMind 首席执行官：未来几年人工智能可能拥有「人类水平」的智能
站长之家(ChinaZ.com) 5月4日消息:谷歌 DeepMind 首席执行官 Demis Hassabis 表示，通用人工智能 (AGI) 有望在几年内变成现实。人工智能能够…
-
ChatGPT与谷歌Bard：人工智能工具面临信息泄密挑战
【Aigcmore.com】6月16日消息，在OpenAI研发的人工智能聊天机器人ChatGPT引起轰动之后，众多公司纷纷开发类似的产品，并将ChatGPT等人工智能工具应用于他们…
