NVIDIA推出安全“护栏”：限制人工智能“一本正经的胡扯”
快科技4月26日消息，随着ChatGPT等生成式人工智能的出现，越来越多的用户在享受便利的同时发现，AI经常会出现一本正经的胡扯”的现象，有时甚至会有一些让人细思极恐的发言。
近日，NVIDIA推出了一款名为NeMo Guardrails的软件，它能够为人工智能模型设置安全护栏”，避免AI输出一些不良的内容。
据悉，NeMo Guardrails的本质是一个位于用户和模型之间的软件层，它能够在模型输出不良内容前进行拦截和修改。
比如，如果用户需要一个针对特定方向的AI，就可以利用该软件，来限制AI至输出对应方面的内容，而不谈论不相关的话题。
此外，该软件还能够利用一个AI模型检测另一个AI模型，如果两个模型输出的答案不一致，软件将直接输出我不知道”的回答。
通过这种方式，人工智能胡说八道”的情况会得到有效降低，一些可能存在危险的回复也能够被直接拦截。
相关推荐
-
在Transformer时代重塑RNN，RWKV将非Transformer架构扩展到数百亿参数
Transformer 模型在几乎所有自然语言处理（NLP）任务中都带来了革命，但其在序列长度上的内存和计算复杂性呈二次方增长。相比之下，循环神经网络（RNNs）在内存和计算需求上…
-
丰田研究所推出生成式AI工具，帮助设计汽车外形
站长之家（ChinaZ.com）6月25日 消息:丰田研究所（Toyota Research Institute，简称TRI）推出了一款创新的生成式人工智能(AI)工具，旨在提升车…
-
一张图重建3D人物新思路：完美复刻复杂动作和宽松衣物，遮挡也不在话下
本文经AI新媒体量子位（公众号ID:QbitAI）授权转载，转载请联系出处。 在计算机视觉领域，我们用一张人像直接打造3D数字人最大的挑战是什么？ 或许就是兼顾稳定性和自由度。 也…
-
OpenAI 人工智能文本检测器正确率只有 26% 且有 9% 的误报
站长之家(ChinaZ.com) 7月26日消息:OpenAI 日前关闭了一个本应用于区分人类写作和 AI 写作的工具，原因是准确率较低。在一篇（更新后的）博客中，OpenAI 表…
-
Meta推出首款定制AI芯片
5月22日消息，近日Meta推出了第一款专门为处理人工智能程序而定制的计算机芯片，名为Meta Training and Inference Accelerator，简称“MTIA…
-
AI绘画杀疯了，是「敌」还是友？
声明:本文来自于微信公众号 微果酱（ID:wjam123456），作者:陈出木，授权站长之家转载发布。 不久前，AI绘画赛道数一数二的Midjourney是否在QQ频道开启中文版内…
-
GitHub Copilot X—基于GPT-4的全新智能编程助手
一、前言 1、编程助手的重要性和历史背景 在软件开发中，程序员需要编写大量的代码以完成自己的工作，其中包括从简单的函数和方法到复杂的算法和架构等等。由于编写高质量的代码是一项挑战性…
-
GPT-4「变笨」被斯坦福实锤：短短仨月数学问题错误率暴涨40倍！OpenAI也急了：已开始调查
GPT-4变笨，实锤了？？？ 来自斯坦福大学和UC伯克利大学的一篇最新论文显示： 6月的GPT-4在一些任务上的表现客观上就是比3月的更差。 比如他们用同样500道「判断给定整数是…
-
大模型混战，阿里百度华为谁将成就AI时代的“新地基”？
声明:本文来自于微信公众号 奇偶派（ID:jioupai），作者 |叶子 编辑 |钊，授权站长之家转载发布。 自2022年stable diffusion模型的进步推动AIGC的快…
-
生成式人工智能：构成犯罪滥用的风险
黑客对生成式人工智能(AI)的使用已成为对网络安全的新威胁。生成式人工智能允许黑客生成逼真且令人信服的假数据，如图像、视频和文本，他们可以将其用于网络钓鱼诈骗、社会工程攻击和其他类…
