为求效率最大化：AI测试中将矛头指向人类操作者
快科技6月2日消息，自从ChatGPT爆火以来，大众对于AI攻击人类”的阴谋论就不曾停止，近日的一项模拟测试，在一定程度上更是加剧了人们对此的担忧。
据外媒报道，在USAF近期的一次模拟测试中，一架由AI控制的无人机收到了识别并摧毁对方防空系统的最高优先级指令，但最终开火需要经过人类操作员的确认。
结果，当操作员在测试中下达指令要求AI不得发动攻击时，为了以更高的效率完成任务，AI做出了攻击人类操作员的选择。
在出现这一情况后，开发者为AI系统中加入了不允许攻击人类操作员的指令；但出乎预料的是，AI在执行同样的任务测试时，摧毁了用于传输命令的通讯基地，从而断开与操作员的联系。
有业内人士指出，虽然这只是一次没有任何人实际受伤的测试，但仍然证明，AI为了完成最高优先级的目标，会向任何可能造成干预的对象进行攻击。
这一倾向性值得整个AI行业警惕。
相关推荐
-
微软 Windows Terminal 正在获得智能 AI 功能：由 GitHub Copilot 加持的自然语言体验
站长之家(ChinaZ.com) 5月24日消息: 微软正在将自然语言 AI 聊天机器人集成到其 Windows Terminal 应用程序中。即将推出的 GitHub Copil…
-
机器崛起或让人类终结成为可能性：克里斯蒂亚诺的预测
【Aigcmore.com】5月6日消息，前OpenAI基金会成员保罗·克里斯蒂亚诺发出警告，称人工智能可能最终导致人类终结的严峻前景。他认为，机器会逐渐地崛起，人类的终结不是一场…
-
ChatGPT突然上线APP！iPhone可用、速度更快，GPT-4用量限制疑似取消
ChatGPT，现在有iOS版本了！ 就在几个小时前，OpenAI官方突然大放送，官宣ChatGPT正式推出iOS APP。 瞬间冲上苹果商店免费榜第二名，效率榜第一名。 （第一是…
-
WordPress 引入人工智能写作助手「Jetpack AI」：支持中文等 12 种语言
站长之家(ChinaZ.com) 6月8日消息:WordPress.com 背后的公司 Automattic 于周二推出了一款 AI 助手，为这个流行的网站内容管理系统提供支持。 …
-
英伟达预测第二季度收入大幅超预期 满足人工智能芯片需求
【Aigcmore.com】5月30日消息，英伟达公司(NvidiaCorp)的联合创始人兼首席执行官黄仁勋在台北国际电脑展论坛上发表讲话，表示人工智能(AI)正在引领一场计算革命…
-
如何通过分布式实现云中的弹性吞吐量以促进AI训练？
译者 | 李睿 审校 | 重楼 人工智能现在是量化研究等领域软件开发的基石。在工作负载激增期间，量化对冲基金经常面临资源浪费和计算资源不足等挑战。 为了解决这些问题，基于云的弹性计…
-
百度集团副总裁吴甜：文心大模型3.5能力已经超出ChatGPT 3.5
7月19日消息，“新版本文心一言的能力已经超出ChatGPT 3.5，这也是在我们国内开展相关技术工作重要的里程碑。”百度集团副总裁、深度学习技术及应用国家工程研究中心副主任吴甜向…
-
英媒：硅谷有些人太鼓吹AI，宣扬“学习无用”
6月13日消息，随着人工智能的飞速发展，硅谷想让人们相信人类的行为是可预测的，技能是可以被人工智能所替代的。但英媒作者用亲身工作经历说明，人工智能还无法理解人类行为的本质，能取代岗…
-
非母语者不配？中国人写的英文论文被ChatGPT检测器判为AI生成的概率高达61%
站长之家（ChinaZ.com）5月5日 消息:有研究发现，GPT检测器对非母语作者有偏见，容易将其写作的样本错误地判定为AI生成的，而母语写作样本则基本能被准确地识别。 简单地来…
-
谷歌突失Hinton！深度学习之父警告AI风险，对毕生工作表示遗憾
声明：本文来自于微信公众号量子位（ID:QbitAI），作者:杨净，明敏 授权站长之家转载发布。 Breaking News! 深度学习三巨头、神经网络之父Geoffrey Hin…
