为求效率最大化：AI测试中将矛头指向人类操作者
快科技6月2日消息，自从ChatGPT爆火以来，大众对于AI攻击人类”的阴谋论就不曾停止，近日的一项模拟测试，在一定程度上更是加剧了人们对此的担忧。
据外媒报道，在USAF近期的一次模拟测试中，一架由AI控制的无人机收到了识别并摧毁对方防空系统的最高优先级指令，但最终开火需要经过人类操作员的确认。
结果，当操作员在测试中下达指令要求AI不得发动攻击时，为了以更高的效率完成任务，AI做出了攻击人类操作员的选择。
在出现这一情况后，开发者为AI系统中加入了不允许攻击人类操作员的指令；但出乎预料的是，AI在执行同样的任务测试时，摧毁了用于传输命令的通讯基地，从而断开与操作员的联系。
有业内人士指出，虽然这只是一次没有任何人实际受伤的测试，但仍然证明，AI为了完成最高优先级的目标，会向任何可能造成干预的对象进行攻击。
这一倾向性值得整个AI行业警惕。
相关推荐
-
突破性成果：ConPLex模型一天内可筛选超过1亿种化合物
【Aigcmore.com】06月13日消息，美国麻省理工学院和塔夫茨大学的科研人员最近在《美国国家科学院院刊》上发表了一项突破性的研究成果。他们设计出一种名为ConPLex的全新…
-
Reddit 不想免费提供内容训练聊天机器人，将向AI公司收取 API 使用费
Reddit 是一个拥有 18 年历史的社交媒体平台，用户可以在上面发帖、评论、交流各种话题。这些用户之间的对话数据非常丰富，对于想要训练人工智能聊天机器人的公司来说，是一个宝贵的…
-
中文GPT Office来了！不造概念，WPS AI真落地了
最近，朋友圈被一篇用ChatGPT周入百万的文章刷屏了。不少人打着「用GPT来赚钱」的口号各显神通，已经是赚得盆满钵满。 而小编最感兴趣的，自然是教人「7天写出10万+爆款文章」的…
-
构建 JavaScript ChatGPT 插件，你学会了吗？
聊天插件系统是一种令人兴奋的新方式，可以扩展ChatGPT的功能，纳入您自己的业务数据，并为客户与您的业务互动增加另一个渠道。在这篇文章中，我将解释什么是聊天插件，它们能做什么，以…
-
识别「ChatGPT造假」，效果超越OpenAI：北大、华为的AI生成检测器来了
随着生成式大模型的不断进步，它们生成的语料正逐步逼近人类。虽然大模型正在解放无数文书的双手，它以假乱真的强劲能力也为一些不法分子所利用，造成了一系列社会问题： 来自北大、华为的研究…
-
知乎联合面壁智能发布大语言模型新成果，开启内测
【Aigcmore.com】5月27日消息，知乎联合面壁智能今日在2023中国国际大数据产业博览会上发布了令人瞩目的大语言模型成果。据悉，知乎模型的最新应用“搜索聚合”已经开始内测…
-
美版贴吧8000小组自爆停摆！拒绝数据被谷歌OpenAI白嫖，CEO被网友骂翻：背刺第三方应用
一觉醒来，「美国贴吧」Reddit 8000多个子区中的七千多个，已经消失了。 几个月前，Reddit忽然开始对API访问收费，而且价格高到离谱，导致的结果就是，直接扼杀了第三方客…
-
消息称ChatGPT本可更强，GPU短缺成最大阻碍
据《财富》杂志报道，OpenAI 公司 CEO 山姆奥特曼在一场非公开会议上透露，GPU 的严重短缺阻碍了 ChatGPT 的进步。 报道称，奥特曼于 5 月会见了多位 App 开…
-
对标 Edge，Opera 浏览器推出集成 ChatGPT 的 AI 侧边栏
5 月 24 日消息，Opera 浏览器今日宣布，正在测试名为 Aria 的 AI侧边栏功能。该功能由 OpenAI 的 ChatGPT 驱动，可以生成文本、写代码、回答问题等等。…
-
每周AI大事件 | OpenAI API重磅更新、360AI数字人广场、「百川智能」亮相
欢迎来到站长之家的[每周AI大事件]，这里记录了过去一周值得关注的AI领域热点内容，帮助大家更好地了解人工智能领域的动态和发展风向。 Part1动态 [国内要闻] 王小川大模型「百…
