为求效率最大化：AI测试中将矛头指向人类操作者
快科技6月2日消息，自从ChatGPT爆火以来，大众对于AI攻击人类”的阴谋论就不曾停止，近日的一项模拟测试，在一定程度上更是加剧了人们对此的担忧。
据外媒报道，在USAF近期的一次模拟测试中，一架由AI控制的无人机收到了识别并摧毁对方防空系统的最高优先级指令，但最终开火需要经过人类操作员的确认。
结果，当操作员在测试中下达指令要求AI不得发动攻击时，为了以更高的效率完成任务，AI做出了攻击人类操作员的选择。
在出现这一情况后，开发者为AI系统中加入了不允许攻击人类操作员的指令；但出乎预料的是，AI在执行同样的任务测试时，摧毁了用于传输命令的通讯基地，从而断开与操作员的联系。
有业内人士指出，虽然这只是一次没有任何人实际受伤的测试，但仍然证明，AI为了完成最高优先级的目标，会向任何可能造成干预的对象进行攻击。
这一倾向性值得整个AI行业警惕。
相关推荐
-
GPT-4王冠没掉！Claude 3竞技场人类投票成绩出炉：仅居第三
Claude 3的竞技场排名终于来了： 短短3天内，20000张投票，将榜单的流量推向空前。 最终，Claude 3最强的“大杯”模型Opus得分1233，成为第一个能和GPT-4…
-
Meta AI 负责人：当前的 ChatGPT 等人工智能还不如狗聪明
站长之家(ChinaZ.com) 6月16日消息:当前的人工智能系统（如 ChatGPT）并没有人类级别的智能，甚至不如狗聪明。这是 Meta 的 AI 负责人在关于这种快速发展技…
-
复盘MWC上海：AI大模型时代到来 通信网络将迎来怎样的改变？
C114讯 7月4日消息（艾斯）在上周MWC上海2023期间的“5G未来峰会”上，来自国内电信运营商、设备商以及重要行业协会的专家代表们，分享了目前AI技术…
-
毕马威调查：白领认为AI威胁可控，仍有时间适应变化
【Aigcmore.com】6月12日消息，会计专业服务机构毕马威近日公布了一项关于生成式人工智能(AIGC)的调查结果。该调查在4月至5月期间对1035名美国白领进行了调查。 调…
-
欧洲推进人工智能监管
上周，欧洲立法者以压倒性多数投票支持具有里程碑意义的人工智能法规《欧盟人工智能法案》（EU AI Act）。虽然该法案还没有法律效力，但一边倒的投票表明它很快就会在欧盟生效。在其他…
-
清华大学人工智能研究院基础模型研究中心成立
站长之家（ChinaZ.com）7月4日 消息:据清华大学官方消息，6月30日下午，清华大学人工智能研究院基础模型研究中心（以下简称“研究中心”）成立仪式在丙所会议室举行。 清华大…
-
文生图人工智能初创公司 Stability AI 高管离职引发关注
站长之家(ChinaZ.com) 6月27日 消息:StabilityAI的高层人员离职引发了关注。近几周，这家备受瞩目的人工智能初创公司至少失去了两位高管，包括研究主管和首席运营…
-
微软总裁：人工智能最令人担忧的问题是深度造假
站长之家（ChinaZ.com）5月26日 消息:微软总裁布拉德·史密斯周四表示，他对人工智能的最大担忧是深度造假（Deep Fakes ），看起来很逼真但内容是虚假的。 随着 O…
-
大翻车！StackOverflow版主集体罢工！
作者 | 徐杰承 全球最受欢迎的开发者问答论坛之一Stack Overflow又出了个不小的事！最近，它陷入了一场新的危机——超过700位版主已于近日联名宣布，将举行集体…
-
亚马逊 AWS 副总裁淡化人工智能存在威胁 生成式 AI 不会一个模型统治市场
站长之家(ChinaZ.com) 7月5日消息:尽管科技界有一些知名人士担心人工智能 (AI) 带来的潜在生存威胁，但 AWS 产品副总裁 Matt Wood 并不是其中之一。 W…
