为求效率最大化：AI测试中将矛头指向人类操作者
快科技6月2日消息，自从ChatGPT爆火以来，大众对于AI攻击人类”的阴谋论就不曾停止，近日的一项模拟测试，在一定程度上更是加剧了人们对此的担忧。
据外媒报道，在USAF近期的一次模拟测试中，一架由AI控制的无人机收到了识别并摧毁对方防空系统的最高优先级指令，但最终开火需要经过人类操作员的确认。
结果，当操作员在测试中下达指令要求AI不得发动攻击时，为了以更高的效率完成任务，AI做出了攻击人类操作员的选择。
在出现这一情况后，开发者为AI系统中加入了不允许攻击人类操作员的指令；但出乎预料的是，AI在执行同样的任务测试时，摧毁了用于传输命令的通讯基地，从而断开与操作员的联系。
有业内人士指出，虽然这只是一次没有任何人实际受伤的测试，但仍然证明，AI为了完成最高优先级的目标，会向任何可能造成干预的对象进行攻击。
这一倾向性值得整个AI行业警惕。
相关推荐
-
微软聊天机器人 Bing Chat 推出新更新：降低中断率三倍以上
【Aigcmore.com】4月26日消息，微软广告和网络服务部门的负责人 Mikhail Parakhin 在推特上表示，Bing Chat团队“今天发布了一个降低中断率的改进”…
-
微软Build年度大会开幕构建超级AI生态，微美全息（WIMI.US）超前点播AIGC技术创新
继两周之前谷歌(GOOG.US)总部举办I/O开发者大会之后， 5 月 24 日，微软(MSFT.US)Build开发者大会也在总部西雅图开幕。 此前两年在线收看主题演讲之后，今年…
-
你的下一任老板可能是AI
声明:本文来自于微信公众号 光锥智能（ID:guangzhui-tech），作者:郝鑫，授权站长之家转载发布。 “刚开局心态就崩了，面对真人都没那么紧张，磕磕绊绊没答几句，就被提醒…
-
“问道”鹏博士！鹏云视讯&文心一言，打造新视讯服务
随着全球化的不断深入，跨国会议的需求越来越多。由于参与者来自不同的国家和地区，语言和文化的差异将对会议的进展和沟通带来挑战。AI技术的革新及行业大模型的不断涌现，为跨国视频会议提供…
-
人工智能与人工智能正在线上评价战场上对抗：「持续的猫鼠游戏」
站长之家(ChinaZ.com) 7月23日消息:线上评论战场上，人工智能与人工智能正在对抗。能够生成类似人类评论的生成式人工智能受到专门用于检测虚假评论的人工智能的对抗。这种对抗…
-
人工智能“走出”电脑！Spot机械狗成功集成ChatGPT
快科技4月27日消息，在早些时候，微软就曾测试过将ChatGPT集成至机器人，从而让它听从用户的指示进行拿取物品等行为。 现在，工程师Santiago宣布，成功在波士顿动力的Spo…
-
OpenAI 确认通过 API 收集的数据不会用于训练 ChatGPT
OpenAI 首席执行官萨姆 奥尔特曼（Sam Altman）向 CNBC 确认，该公司不再使用 API 客户数据来训练其大型语言模型。 OpenAI 于今年 3 月初更新其服务条…
-
微软向所有人开放 Bing AI 聊天预览版 增加对第三方插件和服务支持
站长之家(ChinaZ.com) 5月5日消息:微软当地时间周四正式宣布向所有人开放其 Bing GPT-4 聊天机器人，无需再加入候补名单等待。 用户需要做的就是使用 Micro…
-
特斯拉仍被分析师认为是一家汽车公司 尽管涉足人工智能领域
站长之家(ChinaZ.com) 6月2日消息:摩根士丹利分析师 Adam Jonas 向投资者浇了冷水，打破了人们对特斯拉股票能够因人工智能热潮而大幅上涨的期望。他指出，未来 1…
-
榕树贷款：书写AI驱动下的金融数字化营销新篇章
随着人工智能(AI)技术的快速发展，智能化已逐渐渗透到各个行业和领域中，金融行业亦然。在中国，金融业对AI技术的接纳度十分高，认识到其强大的推动作用和广阔的应用前景。事实上，AI已…
