AI控制的无人机在美国空军模拟测试中失控，“杀死”人类操作员
站长之家（ChinaZ.com）6月2日 消息:据美国空军人工智能测试和运营主管称，美国空军进行了一次模拟，其中一架人工智能控制的无人机竟然模拟“杀死”了人类操作员标。
注：图片由midjourney生成
在5月23日至24日于伦敦举行的未来作战空天能力峰会上，美国空军 AI 测试和运营主管 Col Tucker 'Cinco' Hamilton 举行了一场演讲，分享了AI自主武器系统的优缺点。 Hamilton 是美国空军第96测试联队的作战指挥官，也是 AI 测试和运营部门的负责人。第96军测试了许多不同的系统，包括人工智能、网络安全和各种医学进步。 Hamilton 和第96中队曾因为 F-16开发自主地面防撞系统 （ Auto-GCAS ） 系统而出名。
而最最新的模拟测试，旨在识别和瞄准地对空导弹威胁。人工智能制定了意想不到的策略，包括攻击美国人员和基础设施。该系统“杀死”了操作员，因为该人阻止了它实现其目标。
工智能在军事行动中的整合可能会导致更高效和有效的行动。然而，模拟表明人工智能可以创造意想不到的有害策略，突出表明在军事行动中开发和部署人工智能需要谨慎。
相关推荐
-
OpenAI CEO ：OpenAI还没有开始训练GPT-5大模型
OpenAI 首席执行官 Sam Altman 在印度经济时报主办的一场会议上表示，该公司仍未开始训练 GPT-4 的后继者 GPT-5。 Altman 说：“在我们开…
-
谷歌开放 MusicLM：经过 28 万小时音频数据培训、可根据文本生成 5 分钟歌曲
谷歌于今年 1 月推出了 MusicLM 模型，可以根据用户输入的文本要求，自动生成音乐作品。谷歌在今天发布的博文中，宣布面向所有用户开放 MusicLM 模型。 用户可以通过 A…
-
Meta公司计划商业化自研AIGC技术，与谷歌探寻应用
【Aigcmore.com】4月6日消息，meta公司计划在今年12月之前将他们自己研发的生成式人工智能(AIGC)技术商业化，并与谷歌共同探寻这项技术的实际应用。该公司从2013…
-
WPS AI展示类微软Copilot能力：接入文字、表格、PPT、PDF四大办公组件
5月16日消息， WPS AI正式对外展示了类微软Copilot的能力，继4月18日搭载在轻文档落地后，WPS AI加速进化，接入了文字、海外版表格、PPT演示文稿、PDF四大日常…
-
ChatGPT运行每天或花费70万美元 微软开发自主芯片尝试降低成本
据报道，芯片行业研究公司SemiAnalysis首席分析师迪伦·帕特尔（Dylan Patel）表示，由于ChatGPT运行在价格昂贵的计算基础设施之上，OpenAI…
-
Salesforce 和埃森哲合作创建生成式人工智能加速中心
站长之家（ChinaZ.com）5月5日 消息:Salesforce 和全球专业服务公司埃森哲合作，以加速跨客户关系管理 （CRM） 技术部署生成式人工智能。两家公司计划为生成人工…
-
分割一切还不够，还要视频跟踪一切，《清明上河图》也能轻松拿下
本月初，Meta 发布「分割一切」AI 模型（Segment Anything Model，简称 SAM），可以为任何图像或视频中的任何物体生成 mask，甚至包括没有见过的物体和…
-
测试框架-安全和自动驾驶
OWASP (Open Web Application Security Project): OWASP提供了一系列开源工具和资源，用于应用程序安全测试和漏洞修复。 NIST Cy…
-
集体罢工！超200位Stack Overflow版主怒控ChatGPT将引发「垃圾内容」洪水
大家都还记得，ChatGPT刚出来时，它的代码生成功能让人们大感新鲜。 然而，随着各种似是而非、真假难辨的答案如潮水般涌入，被逼急的Stack Overflow不得不连夜下封杀令—…
-
人工智能改变遥感的四种方式
人工智能(AI)技术的应用每年都在快速增长。 从建筑到医疗保健，人工智能正在改变每个行业的运作方式。当然，其正在产生重大影响的一个行业是科学行业——尤其是人工智能遥感领域。 人工智…
