NVIDIA推出安全“护栏”：限制人工智能“一本正经的胡扯”
快科技4月26日消息，随着ChatGPT等生成式人工智能的出现，越来越多的用户在享受便利的同时发现，AI经常会出现一本正经的胡扯”的现象，有时甚至会有一些让人细思极恐的发言。
近日，NVIDIA推出了一款名为NeMo Guardrails的软件，它能够为人工智能模型设置安全护栏”，避免AI输出一些不良的内容。
据悉，NeMo Guardrails的本质是一个位于用户和模型之间的软件层，它能够在模型输出不良内容前进行拦截和修改。
比如，如果用户需要一个针对特定方向的AI，就可以利用该软件，来限制AI至输出对应方面的内容，而不谈论不相关的话题。
此外，该软件还能够利用一个AI模型检测另一个AI模型，如果两个模型输出的答案不一致，软件将直接输出我不知道”的回答。
通过这种方式，人工智能胡说八道”的情况会得到有效降低，一些可能存在危险的回复也能够被直接拦截。
相关推荐
-
康奈尔大学研究团队开发无声沟通技术，利用声纳眼镜执行任务
【Aigcmore.com】4月10日消息，美国康奈尔大学的研究人员开发了一种新技术，可以通过声纳眼镜进行无声沟通。这种眼镜利用微型扬声器和麦克风来读取佩戴者默念的单词，从而可以在…
-
美团联合创始人王慧文因健康问题辞任董事：新办AI公司刚融完资
快科技6月25日讯，今日晚间，美团发布公告称，王慧文因个人健康原因”申请辞去美团董事职务。此前，王慧文已由美团执行董事转为非执行董事。 另据新浪、凤凰、36氪等消息，王慧文作为光年…
-
OpenAI为开发者推出GPT聊天机器人API大更新，同时降低价格
OpenAI 今日宣布对其大型语言模型 API（包括 GPT-4 和 gpt-3.5-turbo）进行重大更新，包括新增函数调用功能、降低使用成本、以及为 gpt-3.5-turb…
-
AIHelperBot：基于人工智能 (AI) 的 SQL 专家，可在几秒钟内构建 SQL 查询
站长之家（ChinaZ.com）7月24日 消息:AIHelperBot 是一个基于人工智能的 SQL 专家，可以在几秒钟内构建 SQL 查询。该工具基于 OpenAI 的技术，根…
-
AI前哨｜黄仁勋在毕业典礼致辞：未能充分利用人工智能的公司将会消亡
凤凰网科技讯《AI前哨》 5月27日下午消息，NVIDIA公司创始人兼首席执行官黄仁勋在台大毕业典礼上发表致辞讲话，黄仁勋强调，人工智能开启了巨大的机遇，灵活的公司将利用人工智能来…
-
担心自身形象被滥用，好莱坞演员要求对 AI 分身收取报酬
6 月 6 日消息，据英国《金融时报》报道，作为本周与电影制片厂和娱乐公司新合同谈判的一部分，好莱坞演员工会已开始讨论人工智能时代的薪酬问题，即真人表演者应如何为其“数字替身”的工…
-
Spotify删除使用人工智能生成的歌曲 回应流量欺诈问题
【Aigcmore.com】5月10日消息，据报道，由于存在“刷流量”嫌疑，Spotify删除了数万首由人工智能创业公司Boomy生成的歌曲。这些歌曲中使用机器人冒充人类听众，虚增…
-
UC伯克利发布大语言模型排行榜！Vicuna夺冠，清华ChatGLM进前5
最近，来自LMSYS Org（UC伯克利主导）的研究人员又搞了个大新闻——大语言模型版排位赛！ 顾名思义，「LLM排位赛」就是让一群大语言模型随机进行battle，并根据它们的El…
-
TCL重磅发布新一代 随学堂C10 AI护眼学习机，开创智慧导学新思路
1月13日，全球领先的智慧科技品牌商TCL发布随学堂C10AI护眼学习机，这是TCL继2021年底国内首发“随学”系列平板以来的又一全新力作。此次TCL随学堂C10搭载全新升级后的…
-
最新NaViT模型炸场！适用任何长宽比＋分辨率，性能能打的Transformer
今天要介绍的是NaViT，这是一种适用于任何长宽比以及分辨率的Transformer模型。 在使用计算机视觉模型处理图像之前，要先将图像调整到固定的分辨率，这种方式很普遍，但并不是…
