NVIDIA推出安全“护栏”：限制人工智能“一本正经的胡扯”
快科技4月26日消息，随着ChatGPT等生成式人工智能的出现，越来越多的用户在享受便利的同时发现，AI经常会出现一本正经的胡扯”的现象，有时甚至会有一些让人细思极恐的发言。
近日，NVIDIA推出了一款名为NeMo Guardrails的软件，它能够为人工智能模型设置安全护栏”，避免AI输出一些不良的内容。
据悉，NeMo Guardrails的本质是一个位于用户和模型之间的软件层，它能够在模型输出不良内容前进行拦截和修改。
比如，如果用户需要一个针对特定方向的AI，就可以利用该软件，来限制AI至输出对应方面的内容，而不谈论不相关的话题。
此外，该软件还能够利用一个AI模型检测另一个AI模型，如果两个模型输出的答案不一致，软件将直接输出我不知道”的回答。
通过这种方式，人工智能胡说八道”的情况会得到有效降低，一些可能存在危险的回复也能够被直接拦截。
相关推荐
-
Stable Diffusion「偷」代码建起10亿美元帝国？Stability AI创始人骗局被扒皮
Stablity AI创始人Emad Mostaque，最近被福布斯「扒皮」了！ 福布斯在一篇长文中爆料，让Stabiliyt AI名声鹊起的Stable Diffusion，源代…
-
Meta发布定制芯片MTIA：为AI工作负载提供突破性性能
【Aigcmore.com】5月19日消息，meta(原Facebook)近日宣布正在进行一项重要研发计划，开发首款定制芯片，专门用于运行人工智能模型。这款芯片名为"me…
-
英特尔称AI“压垮”了CPU、GPU 将用VPU技术来应对
站长之家（ChinaZ.com）5月30日 消息:由于人工智能已经成为许多个人电脑日益增长负载的一部分，因此Intel将使用“VPU”技术来应对，所有型号的新一代Meteor La…
-
Meta发布"类人"AI图像创建模型，能解决多出手指等Bug
6月14日消息，美国当地时间周二，Facebook母公司Meta宣布，将向研究人员提供一种新型“类人”人工智能模型组件。这种名为I-JEPA的模型比现有模型更准确地分析和完成未完成…
-
家长圈掀起AI学习热，阿尔法蛋AI词典笔T系列热销百万获追捧
最近，家长圈被阿尔法蛋儿童认知大模型刷圈了，作为国内首 个儿童认知大模型，家长们的关注度还是很高的，毕竟现在对孩子的学习都很内卷，没有家长想掉队。因此，一股AI学习热正在家长圈兴起…
-
昇腾AI大模型训推一体化解决方案将在WAIC发布
7月6日，以“智联世界、生成未来”为主题的2023 世界人工智能大会（WAIC）将在上海拉开序幕。作为大会的重磅一环，当天由新一代人工智能产业技术创新战略联盟(AITISA)、…
-
瑞穗向日本所有 45000 名银行员工推出微软 Azure OpenAI 人工智能服务
站长之家(ChinaZ.com) 6月27日 消息:瑞穗金融集团本周将为其所有日本银行员工提供微软公司AzureOpenAI服务的访问权限，成为日本首批采用潜在变革性生成式人工智能…
-
DAMO-YOLO：兼顾速度与精度的高效目标检测框架
一、目标检测简介 目标检测的定义是在图像/空间中定位出感兴趣物体的位置和大小。 一般情况下，输入图像、视频或者点云，输出物体的类别和检测框坐标。左下方这张图片就是一个对图像进行目标…
-
谷歌、微软测试AI搜索广告策略遭品牌商抵制
6月9日消息，不少广告买家表示，Alphabet旗下的谷歌以及微软都在自家搜索引擎试验人工智能的过程中插入广告，还没有能退出或关闭的选项。这种做法已经惹恼了一些品牌，有可能遭到广告…
-
必应搜索登顶中国桌面搜索市场 超越百度成第一
【Aigcmore.com】5月22日消息，中国搜索引擎市场发生了重大的变革。根据最新数据来自StatCounter，微软旗下的必应搜索在中国内地桌面搜索市场份额创下了历史新高，达…
