为求效率最大化：AI测试中将矛头指向人类操作者
快科技6月2日消息，自从ChatGPT爆火以来，大众对于AI攻击人类”的阴谋论就不曾停止，近日的一项模拟测试，在一定程度上更是加剧了人们对此的担忧。
据外媒报道，在USAF近期的一次模拟测试中，一架由AI控制的无人机收到了识别并摧毁对方防空系统的最高优先级指令，但最终开火需要经过人类操作员的确认。
结果，当操作员在测试中下达指令要求AI不得发动攻击时，为了以更高的效率完成任务，AI做出了攻击人类操作员的选择。
在出现这一情况后，开发者为AI系统中加入了不允许攻击人类操作员的指令；但出乎预料的是，AI在执行同样的任务测试时，摧毁了用于传输命令的通讯基地，从而断开与操作员的联系。
有业内人士指出，虽然这只是一次没有任何人实际受伤的测试，但仍然证明，AI为了完成最高优先级的目标，会向任何可能造成干预的对象进行攻击。
这一倾向性值得整个AI行业警惕。
相关推荐
-
Spotify、Apple Music停止播放由人工智能生成的歌曲
站长之家（ChinaZ.com）4月19日 消息:日前，音乐流媒体网站下架了一首模仿德雷克和The Weeknd人声的人工智能歌曲。 一周前，他们的唱片公司威胁对人工智能音乐采取法…
-
美国国会最新AI规则：除付费版ChatGPT外 不得使用其他产品
当地时间周一，有媒体拿到了一份署名为美国国会众议院行政长官凯瑟琳·斯平多的备忘录，解释了美国立法机构内部使用大语言模型应用的最新要求。 （来源：Axios） 在这封发…
-
谷歌CEO皮查伊最新专访实录：十个AI问题，事关人类生存发展
《AI 前哨》北京时间 6 月 13 日消息，面对来势汹汹的 ChatGPT，谷歌 CEO 桑达尔 皮查伊 (Sundar Pichai) 周一在接受采访时称，在某些人工智能 (A…
-
英伟达预测第二季度收入大幅超预期 满足人工智能芯片需求
【Aigcmore.com】5月30日消息，英伟达公司(NvidiaCorp)的联合创始人兼首席执行官黄仁勋在台北国际电脑展论坛上发表讲话，表示人工智能(AI)正在引领一场计算革命…
-
OpenAI竞对再被谷歌加注！4.5亿美元新融资到位，累计已吸金14.5亿美元
本文经AI新媒体量子位（公众号ID:QbitAI）授权转载，转载请联系出处。 OpenAI之外，第二不差钱的AI初创公司出现了！ 研发出ChatGPT最强竞品Claude的Anth…
-
金山办公与英伟达团队合作 加速WPS AI落地
站长之家（ChinaZ.com）6月30日 消息:金山办公宣布与 NVIDIA 团队合作，通过 NVIDIA Tensor Core GPU、TensorRT 提升图像文档识别与理…
-
pixiv 宣布 FANBOX 插画网站停止对 AI 生成作品的支持
站长之家(ChinaZ.com) 5月12日消息:pixiv 在其运营的粉丝社区服务「FANBOX」中宣布禁止使用 AI 生成作品，并对使用 AI 生成作品进行警告、下架和停止账户…
-
OpenAI承诺改进ChatGPT的安全性和透明度，将发布安全报告和新功能
【Aigcmore.com】4月18日消息，据路透社报道，OpenAI近日表示，他们将在未来几周内发布一份关于ChatGPT的安全报告，以及一些新的功能和改进。这是由于该机构在3月…
-
阻碍人工智能进步的八个问题
今天的人工智能 (AI) 是有限的。它还有很长的路要走。 一些AI研究人员发现，计算机通过反复试验学习的机器学习算法已经成为一种“神秘力量”。 不同类型的人工智能 人工智能 (AI…
-
OpenAI被曝游说欧盟放宽对AI的监管 取消高风险分类
据媒体报道，聊天机器人ChatGPT开发公司OpenAI对欧盟官员进行了游说，旨在影响即将出台的《人工智能法案》，并且取得了成功。 上周，欧洲议会全体会议表决通过了《人工智能法案》…
