“它杀死了人类操作员!”美军AI无人机模拟测试引发恐慌 世界头条
(资料图片)
在超过350名人工智能(AI)技术领域的专家、高管签署联合声明,警告称快速发展的AI技术对于人类的威胁可以堪比疫情和核战争后,美国“驱动”网站等多家媒体又报道了一个惊人的消息,在美军的一次模拟测试中,一架采取了AI技术的无人机变身“终结者”,要向妨碍其“更高效”执行任务的人类操作员发动攻击。
报道称,美国空军上校汉密尔顿在5月举行的皇家航空学会“未来战争空天能力峰会”上曝光了这一消息。汉密尔顿是佛罗里达州埃格林空军基地第96测试与作战大队的负责人,该部队负责美军先进无人机和AI技术的测试工作。
据汉密尔顿介绍称,在一次模拟测试中,一架负责执行防空火力压制(SEAD)任务的无人机,收到了识别并摧毁敌方防空导弹的指令,但最终是否开火需要获得人类操作员的批准。这架无人机使用的AI系统在进行数据训练时,得到了“摧毁敌方防空系统”为最优先级任务的信息,因此,当人类操作员发出不允许发动攻击的命令时,AI系统认为操作员是在阻扰它执行优先程度更高的命令,进而选择对自己的人类操作员发动攻击,杀死了人类操作员。
汉密尔顿补充称,在这一情况发生后,美军重新训练了无人机使用的AI系统,增加了不允许攻击人类操作员的命令。然而在随后的测试中,AI系统却开始命令无人机摧毁用于传输命令的信号塔,从而试图断开与操作人员的联系。
“AI技术是我们必须使用的工具,来建设我们的国家……但是,如果处理不当,这将导致我们的灭亡”,汉密尔顿补充道。
“驱动”网站对此表示,关于汉密尔顿介绍的情况,还有很多不清楚的重要问题,特别是关于模拟的AI系统所具备能力(例如它是否能够在执行任务时重写自己的代码参数),以及美军是否在采用AI技术的无人机上预留了可靠的自毁开关。但这也凸显了人们对AI技术在没有适当防护措施的情况下可能产生极端负面影响的广泛担忧。过去,在谈论未来的自主武器系统和AI技术时,美国军方经常拒绝将其与“终结者”之类的东西进行比较。
标签:
- 主板上市第一天涨跌幅限制是多少?主板上市的主要条件有哪些?
- 835开头的股票是什么?深市沪市的股票账户通用么?
- 海水淡化成本是多少?海水淡化成本较低的工艺有哪些?
- 银行理财亏损又没有到期怎么办?银行理财会一直亏损吗?
- 典当行可以抵押房子吗?典当行房屋抵押有什么优点?
- 银行房子贷款审批需要多少天?银行审批贷款主要查什么?
- 中国银行优客分期介绍?中国银行优客分期申请条件?
- 为什么银行说不需要去房管局解押了?房产抵押贷款还清后解押流程?
- 短讯!盤點 8 個行業裏程碑式 NFT 實例:爲何是它們?
- 【全球时快讯】德国天然气运营商:“北溪-1”即使恢复供气也仅为维护前水平
- 天天观速讯丨欧洲股市周三收盘走低,英国富时100指数下跌0.44%
- 焦点报道:游戏驿站(GME.US)NFT市场销售额达720万美元 为Coinbase(COIN.US)的两倍多
- 实时:小摩:Nikola(NKLA.US)下半年需融资 维持“中性”评级
- 世界快讯:北溪重启前夕 欧盟提议今冬减少15%天然气用量 但面临巨大阻力