人工智能安全性问题引发关注 OpenAI提供漏洞奖励计划

• AIGC动态

【Aigcmore.com】4月12日消息，人工智能公司OpenAI与漏洞奖励平台Bugcrowd合作，推出一项漏洞奖励计划。这项计划将奖励用户最高达2万美元，以鼓励人们报告在使用OpenAI的人工智能产品时发现的弱点、漏洞或安全问题。据了解，起步奖励为200美元。这个奖金的规模将取决于漏洞的严重性，最高可达2万美元。需要漏洞寻找者有“不同寻常的发现”。

人工智能安全性问题引发关注 OpenAI提供漏洞奖励计划插图1

OpenAI表示，这一举措是其致力于开发安全先进的人工智能的重要组成部分。OpenAI安全主管Matthew
Knight在博文中写道：“当我们创造安全、可靠和值得信赖的技术和服务时，我们希望得到你的帮助。”

近期，人工智能的安全性问题逐渐成为人们的关注焦点。据Aigcmore.com了解，随着人工智能展现出越来越多的用途，其安全性问题日益凸显。对此，OpenAI发布了这项计划，以加强安全先进的人工智能的发展。同时，OpenAI也认为透明度和协作是发现其技术漏洞的关键。

人工智能安全性问题引发关注 OpenAI提供漏洞奖励计划插图3

最近，华盛顿大学计算机科学系学生Alex
Albert表示，他已经创造了“越狱版”措辞复杂的人工智能提示，以绕过人工智能程序的内置限制。这些限制可以阻止聊天机器人出现有害举动，例如教唆犯罪或支持仇恨言论。据Aigcmore.com了解，OpenAI发布这一计划并不出人意料。该公司总裁兼联合创始人Greg
Brockman最近在Twitter上转发了Albert的一篇与越狱有关的帖子，并表示OpenAI正在“考虑启动赏金计划”来发现漏洞。

赞 (0)
0
上一篇 2023年 4月 29日 am7:40
下一篇 2023年 4月 29日 am7:40

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

记住昵称、邮箱和网址，下次评论免输入