为求效率最大化：AI测试中将矛头指向人类操作者
快科技6月2日消息，自从ChatGPT爆火以来，大众对于AI攻击人类”的阴谋论就不曾停止，近日的一项模拟测试，在一定程度上更是加剧了人们对此的担忧。
据外媒报道，在USAF近期的一次模拟测试中，一架由AI控制的无人机收到了识别并摧毁对方防空系统的最高优先级指令，但最终开火需要经过人类操作员的确认。
结果，当操作员在测试中下达指令要求AI不得发动攻击时，为了以更高的效率完成任务，AI做出了攻击人类操作员的选择。
在出现这一情况后，开发者为AI系统中加入了不允许攻击人类操作员的指令；但出乎预料的是，AI在执行同样的任务测试时，摧毁了用于传输命令的通讯基地，从而断开与操作员的联系。
有业内人士指出，虽然这只是一次没有任何人实际受伤的测试，但仍然证明，AI为了完成最高优先级的目标，会向任何可能造成干预的对象进行攻击。
这一倾向性值得整个AI行业警惕。
相关推荐
-
OpenAI将创建更多杀手级应用 提高用户对AI的控制能力
【Aigcmore.com】3月10日消息，日前，人工智能(AI)研发公司OpenAI宣布将推出新工具，使企业和个人用户可以自行定制生成式AI系统，以提高用户对AI的控制能力。Op…
-
人工智能编写亚马逊商品评论引发热议 平台方采取何种措施？
【Aigcmore.com】4月27日消息，近日有报道称，亚马逊上部分商品的评论被人工智能编写，引起了网购者的震惊和不安。报道指出，一些亚马逊商品的评论开头是“作为一个人工智能语言…
-
英伟达向生物技术公司 Recursion 投资 5000 万美元 押注人工智能药物研发
站长之家(ChinaZ.com) 7月13日消息:芯片设计公司英伟达周三宣布，将投资 5000 万美元，加速 Recursion 的人工智能模型在药物发现方面的训练，两家公司在周三…
-
AI制药技术逐渐成熟，LAIFE以制药级维度研发生命补剂
近日LAIFE准确化产品肝净小绿瓶上市，这款源自哈佛大学实验室的高端AI配方产品将为保健品生物科技领域带来划时代的突破。 过去，从一种新药物概念到最终上市，往往经历着复杂而曲折的过…
-
意大利禁用OpenAI聊天机器人ChatGPT，多国担忧数据安全问题
【Aigcmore.com】4月4日消息，由于涉及到数据安全和隐私问题，欧洲多国对OpenAI的ChatGPT表现出了担忧。在此背景下，意大利成为了第一个采取行动的国家。据了解，意…
-
阿里云推出通义千问大模型 智能产品更加人性化
【Aigcmore.com】4月11日消息，阿里巴巴集团董事会主席兼CEO、阿里云智能集团CEO张勇在云峰会上宣布，阿里巴巴所有产品未来将接入“通义千问”大模型，进行全面改造。他认…
-
微软CEO纳德拉谈GPT-4：实现童年梦想，引领人工智能未来
站长之家(ChinaZ.com) 6月17日 消息:近日，微软首席执行官萨蒂亚・纳德拉（Satya Nadella）在接受《连线》杂志的史蒂文・利维（Steven Levy）采访时…
-
研究人员推手语转文字 AI 翻译器，帮助听障人士正常交流
5 月 25 日消息，巴塞罗那超级计算中心（BSC）和加泰罗尼亚理工大学（UPC）的研究人员开发了一种将手语翻译成文本的新工具，以给予听觉障碍者更多包容性和可及性。该工具利用人工智…
-
达摩院医疗AI团队提出的新方法在识别罕见肿瘤方面表现显著
【Aigcmore.com】5月9日消息，据阿里达摩院透露，该院医疗AI团队的一篇论文已被计算机视觉国际顶会CVPR2023评为Highlight，这篇论文提出了一种全新的医学图像…
-
克服智能机器人实施挑战的五种方法
智能机器人，在商业世界中越来越受欢迎。 智能机器人具有多种优势，如提高效率、提高准确性和成本效益。当与先进技术相结合时，企业智能机器人技术可以有效克服实施挑战。 近年来，各行各业的…
