为求效率最大化：AI测试中将矛头指向人类操作者
快科技6月2日消息，自从ChatGPT爆火以来，大众对于AI攻击人类”的阴谋论就不曾停止，近日的一项模拟测试，在一定程度上更是加剧了人们对此的担忧。
据外媒报道，在USAF近期的一次模拟测试中，一架由AI控制的无人机收到了识别并摧毁对方防空系统的最高优先级指令，但最终开火需要经过人类操作员的确认。
结果，当操作员在测试中下达指令要求AI不得发动攻击时，为了以更高的效率完成任务，AI做出了攻击人类操作员的选择。
在出现这一情况后，开发者为AI系统中加入了不允许攻击人类操作员的指令；但出乎预料的是，AI在执行同样的任务测试时，摧毁了用于传输命令的通讯基地，从而断开与操作员的联系。
有业内人士指出，虽然这只是一次没有任何人实际受伤的测试，但仍然证明，AI为了完成最高优先级的目标，会向任何可能造成干预的对象进行攻击。
这一倾向性值得整个AI行业警惕。
相关推荐
-
终于来了，OpenAI发布iOS版ChatGPT，支持语音提问
5月19日消息，当地时间周四，OpenAI发布iOS版ChatGPT应用，美国的iPhone用户可以通过苹果应用商店免费下载安装。OpenAI承诺，未来还计划将ChatGPT应用登…
-
沐曦GPU芯片功能测试完成 用于AI训练及通用计算
站长之家（ChinaZ.com）6月16日 消息:周三，上海的GPU创新企业沐曦MetaX宣布，仅仅5个小时就完成了曦云MXC500芯片的功能测试，并且MXMACA2.0计算平台的…
-
打不过就加入：首家承认 ChatGPT 影响收入的公司 Chegg 选择拥抱 AI ，裁减 4% 员工
6 月 14 日消息，美国在线教育公司 Chegg 在上月承认，学生对人工智能聊天机器人ChatGPT 的兴趣“大幅飙升”，开始损害其销售。而如今这家公司选择了“打不过就加入”，该…
-
智能教室：人工智能和未来教育
人工智能正在改变世界。 全世界现在都在关注生成式人工智能工具对知识和创意经济的影响。学校是知识和创意工作的中心，因此很可能是普罗大众首先看到切实变化的地方。 世界各地的领导人和有识…
-
GPT-4最大竞争对手Claude 2震撼发布！一次10万token免费用，代码、数学、推理史诗级提升
ChatGPT的最大竞争对手Anthropic再次上新！ 就在刚刚，Anthropic正式发布了全新的Claude 2，并推出了更加便捷的网页测试版（仅限美国和英国的IP）。 相较…
-
阿尔法蛋AI词典笔T10Pro和T20怎么选？两步锁定适合孩子那一款！
随着AI等技术的发展，智能学习工具的普及度也越来越高，也不断的迭代升级。其中，智能词典笔作为爆火的品类，已经成为很多家长给孩子优选的智能学习工具，就像给孩子请了一位“私人老师”。 …
-
赛灵力推出「达尔文」大模型，为生物领域打造AI大脑！
7 月 4 日，由赛灵力联合清华珠三角研究院、赛业生物、大湾区科创中心共同举办的“达尔文大模型发布会”圆满落幕。在众多嘉宾和人民日报、广州日报、新华网等媒体的共同见证下，赛灵力首 …
-
日本希望 AI 促进经济增长 倾向于采用比欧盟更宽松的人工智能法规
站长之家(ChinaZ.com) 7月4日消息:根据一位了解相关讨论的官员透露，日本在人工智能（AI）使用方面的规定倾向于比欧盟更为宽松。日本希望利用这项技术促进经济增长，并在先进…
-
阿里云张勇：人工智能技术必须“可用、可靠、可信”
站长之家（ChinaZ.com）6月26日 消息:今日，阿里云智能集团董事长兼首席执行官张勇在“世界互联网大会数字文明尼山对话”上表示，人工智能技术应“可用、可靠、可信”，阿里云目…
-
批AI家教正悄悄上岗
声明:本文来自于微信公众号 摩登AI（ID:modernai），作者:布知，授权站长之家转载发布。 AI成为专属导师 尽管美国一些大学发布禁令，禁止学生使用人工智能，但AI进入教育…
