为求效率最大化：AI测试中将矛头指向人类操作者
快科技6月2日消息，自从ChatGPT爆火以来，大众对于AI攻击人类”的阴谋论就不曾停止，近日的一项模拟测试，在一定程度上更是加剧了人们对此的担忧。
据外媒报道，在USAF近期的一次模拟测试中，一架由AI控制的无人机收到了识别并摧毁对方防空系统的最高优先级指令，但最终开火需要经过人类操作员的确认。
结果，当操作员在测试中下达指令要求AI不得发动攻击时，为了以更高的效率完成任务，AI做出了攻击人类操作员的选择。
在出现这一情况后，开发者为AI系统中加入了不允许攻击人类操作员的指令；但出乎预料的是，AI在执行同样的任务测试时，摧毁了用于传输命令的通讯基地，从而断开与操作员的联系。
有业内人士指出，虽然这只是一次没有任何人实际受伤的测试，但仍然证明，AI为了完成最高优先级的目标，会向任何可能造成干预的对象进行攻击。
这一倾向性值得整个AI行业警惕。
相关推荐
-
加速计算、人工智能和计算革命
最近推出的ChatGPT标志着计算史上的一个新时代，复杂的新型人工智能(AI)模型的迅速扩展，推动了计算机功能的界限。对于一些人来说，这为激动人心的新进展打开了大门，这些进展也预示…
-
“我在AI”APP赋能生活：人工智能助力普通人实现更多可能
人工智能取代人类？这个科幻小说当中的预言，似乎并不是高完全都属于夸张成分。或许真正能够在未来某个时刻发，发生在现实生活当中。确实，AI人工智能技术的诞生与发展，成功替代了部分传统、…
-
必应聊天修复计划进行中：复制粘贴图片功能将全面升级！
【Aigcmore.com】7月22日消息，广告和网络服务首席执行官Mikhail Parakhin近日在与网友互动时透露，必应聊天(BingChat)在复制粘贴图片方面存在问题，…
-
知乎大模型“知海图AI”来了，要与GPT-4掰掰手腕
声明:本文来自微信公众号“三易生活”（ID:IT-3eLife），作者:三易菌，授权站长之家转载发布。 此前一直被看作是“ChatGPT概念股”的知乎，终于做出了自己的大模型。在日…
-
ChatGPT、AIGC等智能应用服务将成为中国大数据市场的热点领域
【Aigcmore.com】4月6日消息，根据IDC的最新预测数据显示，中国大数据市场的总IT投资规模预计到2022年将约为170亿美元，并且在2026年将增至364.9亿美元，从…
-
生成式人工智能能够更精准地预测和识别 YouTube 等平台上的内容环境
站长之家(ChinaZ.com) 5月2日消息:越来越多的媒体都开始使用生成 AI 技术。最近，数字视频广告公司 Pixability 利用 ChatGPT 改进品牌适宜性标准并提…
-
人工智能将如何改变软件开发者的世界？
随着越来越多的企业尝试使用AI基础模型（例如OpenAI的ChatGPT），但与此同时，自动化平台给软件开发人员带来的影响越来越明显。 一方面，这些平台可能会彻底改变开发人员的工作…
-
一加12R曝光：中高端手机外观与配置一览
【Aigcmore.com】7月21日消息，据Aigcmore.com了解，一加手机近日曝光了一款名为一加12R的中高端手机渲染图和配置信息。该机定位类似于一加12的“青春版”，外…
-
用好这八条ChatGPT指令，高效完成Pandas任务
我们都听说过ChatGPT。它不仅受到科技行业的关注，而且在更多广泛的媒体上成为头条新闻。 尽管有一些关于它在较简单任务上的性能和可靠性的批评，但ChatGPT相比较于其他大型语言…
-
黄仁勋与蔡力行宣布合作 为软件定义汽车提供完整AI智能座舱方案
【Aigcmore.com】5月30日消息，英伟达(NVIDIA)首席执行官黄仁勋与联发科(MediaTek)首席执行官蔡力行在今天宣布达成一项合作协议，双方将共同致力于开发车用S…
