NVIDIA推出安全“护栏”：限制人工智能“一本正经的胡扯”
快科技4月26日消息，随着ChatGPT等生成式人工智能的出现，越来越多的用户在享受便利的同时发现，AI经常会出现一本正经的胡扯”的现象，有时甚至会有一些让人细思极恐的发言。
近日，NVIDIA推出了一款名为NeMo Guardrails的软件，它能够为人工智能模型设置安全护栏”，避免AI输出一些不良的内容。
据悉，NeMo Guardrails的本质是一个位于用户和模型之间的软件层，它能够在模型输出不良内容前进行拦截和修改。
比如，如果用户需要一个针对特定方向的AI，就可以利用该软件，来限制AI至输出对应方面的内容，而不谈论不相关的话题。
此外，该软件还能够利用一个AI模型检测另一个AI模型，如果两个模型输出的答案不一致，软件将直接输出我不知道”的回答。
通过这种方式，人工智能胡说八道”的情况会得到有效降低，一些可能存在危险的回复也能够被直接拦截。
相关推荐
-
100GB文件泄露：特斯拉无人驾驶技术问题大，马斯克兜售故事会更加困难
不久前德国新闻媒体Handelsblatt拿到一堆特斯拉内部文档，显示特斯拉在技术方面存在诸多挑战。 文档共23000份，覆盖2015年至2022年3月在亚洲、美国、欧洲出现的问题…
-
尽管 AI 热潮推动高性能计算市场 但晶圆代工整体需求仍然疲软
站长之家(ChinaZ.com) 6月2日消息:由于乌克兰战争、全球通胀和地缘政治紧张局势，消费电子产品销售大幅下降，进而导致半导体销售减少。根据 DIGITIMES Resear…
-
顺序决策与基础模型如何交叉互惠？谷歌、伯克利等探讨更多可能
在广泛数据集上基于自监督学习的预训练基础模型，已经展现出将知识迁移到不同下游任务的优秀能力。因此，这些模型也被应用到长期推理、控制、搜索和规划等更复杂的问题，或者被部署在对话、自动…
-
马克・扎克伯格和OpenAI首席执行官表态支持欧盟AI监管方案
【Aigcmore.com】6月25日消息，据了解，马克·扎克伯格(MarkZuckerberg)和OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)近日公开表示，他们支…
-
榕树贷款：以AI驱动精准匹配 高效服务城镇新市民
随着我国工业化、城市化和农业现代化的持续发展，亿万人民离开了他们的故乡，融入到城市，成为了城市的新市民。新市民是城市建设的中坚力量，也是城市发展的生力军。为新市民提供优质的金融服务…
-
微软成人工智能热点投资赢家 股价累计上涨46%
【Aigcmore.com】6月16日消息，据报道，微软股价在摩根大通分析师对其人工智能领域的增长前景持乐观态度后，周四再度创下历史新高。 微软股价当天上涨3.2%，收盘价为348…
-
消息称 TikTok 正测试 AI 聊天机器人“Tako”，帮助用户发现更多有趣视频
据路透社报道，以色列人工智能公司 Watchful Technologies 称，TikTok 正测试一款 AI 聊天机器人，该工具可与用户交流短视频相关问题，并帮助他们发现内容。…
-
百度李震宇：预计到2026年完成汽车智能化“跨沟”
C114讯 4月18日消息（南山）近日在中国电动汽车百人会上，百度集团资深副总裁、智能驾驶事业群组总裁李震宇发表演讲介绍，工信部原部长苗圩曾经表示，中国汽车产业在新能源转型的上半场…
-
软件股成为AI热的受益者，但还需证明自身价值
人工智能（AI）终于给奄奄一息的软件股带来了一线生机。过去一整年，华尔街投资者都在寻找ChatGPT推出后AI浪潮的最大受益者：现在轮到了一批在后疫情时代科技热潮退去后一蹶不振的软…
-
汤姆猫：“汤姆猫”IP已植入AI交互产品功能原型中
站长之家（ChinaZ.com）4月25日 消息:昨日晚间，汤姆猫发布2023年第一季度报告称，一季度实现营业收入3.41亿元，同比下降26.48%;归属于上市公司股东的净利润1….
