金沙官网

《终结者》电影或成真?专家称须防AI武器“反噬

作者: admin   点击次数:    发布时间: 2019-09-21 10:29

《终结者》电影或成真?专家称须防AI武器“反噬”

2019-09-19 13:17:07 参考消息 

参考消息网9月19日报道 西班牙《阿贝赛报》网站9月17日发表了题为《自动化武器:杀人机器人的威胁》的报道,具体内容编译如下:

全世界的军队因为全自动化武器的生产而发生了翻天覆地的变化。然而,正如爱尔兰信息工程专家劳拉·多兰所言,人类却尚未掌握能够保证这些武器不犯错或误伤大批平民的办法。

多兰指出,假如使用不当,这种武器就很可能导致大规模意外事故。因此任何武器都应当受到人类控制。假如无法受到控制,就必须禁止使用,因为此类武器或造成意想不到的危险后果。

多兰多年来一直致力于信息工程领域的研究。他曾在谷歌公司任职,2017年曾参与美国国防部的“梅文计划”。该计划旨在招募人工智能领域的专业企业,以达到在伊拉克、叙利亚和阿富汗等战乱地区利用图像识别技术作战的目的。

从技术角度看,得益于人工智能技术的发展,美军无人自动化武器(无人机)能够识别打击目标并实施攻击,因此似乎没有必要配备专人监控这些自动化武器。但多兰认为,这构成了一个巨大的风险,因为任何人都无法保障战争机器能够准确识别一个举着枪的战士和一个同样举着枪的猎人。

多兰还表示,如果由全自动化武器来决定孰死孰活,而无需人类介入,那么这无疑意味着一个巨大的道德缺口。机器毕竟是机器,它们缺乏人类特性,例如在作出艰难的道德伦理抉择时所必需的同情心和同理心。

资料图片:科幻电影《终结者》中的“天网”猎杀机器人。(西班牙《阿贝赛报》网站)

美军也在寻求伦理学专家的帮助,以便能以正确的方式使用无人自动化武器。军方表示正在对人工智能技术的安全、合理、合法使用展开深刻思考。

然而,美军明确表示不会禁止使用无人自动化武器。美国军方指出,当人们尚未完全了解无人自动化武器时就要求禁止使用它,此举无异于杞人忧天。因此美军非但不会禁止,还会大力推广无人自动化武器的使用。

问题在于,迄今为止尚无有关无人自动化武器的相关法律条款。联合国一直致力于制定相关法律条例,但截至目前进展甚微。虽然联合国曾多次就无人自动化武器可能构成的威胁发出警告,但以美国为首的军事大国依然在加大力度促进人工智能在军事领域的利用。

科技领域的很多有识之士也意识到了风险。有人提出,或许杀人机器很快就会走出科幻电影成为现实。

【延伸阅读】日媒:美AI军事化带来“终结者”难题

参考消息网3月26日报道 日本《东洋经济》周刊3月2日发布的题为《美国开始在AI军事利用上动真格》的文章,现将原文编译如下:

美国总统特朗普2月11日签署总统令,命令联邦政府加强人工智能技术(AI)开发。次日,五角大楼发布首份《人工智能战略概要》报告,提出了加速在军事领域引入AI的方针。

特朗普发布的总统令主要是以民间产业领域为对象,但他署名时发表声明称:“美国在AI领域保持领先地位,对于经济和国家安全非常重要。”也就是说,特朗普也寻求AI在军事层面的优势地位。

《人工智能战略概要》则更加直接,点名批评俄罗斯等国在AI军事利用方面投入巨额资金,抢夺了美国的技术优势,动摇了国际秩序。报告提出,要扩充2018年在国防部内部新设的“AI中心”,加强与民间企业、学术机构以及盟国的合作。

进入21世纪后,全世界的军事专家和研究人员一直在争论一个被称为“终结者”的严重问题。原因是,由于深度学习所反映出的AI的飞跃式进步,可识别敌我并能判断是否发动攻击的杀手机器人武器登场亮相,使“终结者”问题具有现实性。

图为美军使用的无人机

根据人类多大程度参与从识别到攻击的决定,杀手机器人可以分为3类。一类是完全由人类决定、由人远程操作的无人机。具体来说,美国MQ-1“捕食者”侦察机就是典型代表。第二类是机器人可以自己判断,但中途人类可以中断或取消的半自主型。以色列的“哈比”自杀式无人机就是这种类型。这两类都已经实战部署。被视为“终结者”问题的是第三类,它是人类完全不参与决策过程的自主型杀手机器人。

关于自主型杀手机器人,其风险包括:程序错误等原因导致误伤、扩散至恐怖分子手中、自主判断做出人类意想不到的敌对行为、决定攻击作战时抑制力下降等。

推进派的专家们则主张,自主型杀手机器人“可以减少被愤怒和恐怖驱使的不必要的杀伤”“可以降低己方军队士兵的被杀伤率”“可以维持本国的军事优势”“成功量产能削减军费”等。

然而,我们真的能够允许将杀伤人类的判断交给不能承担责任的AI吗?

关于自主型杀手机器人,日本外相河野太郎在去年11月众议院外务委员会上明确表示,“日本采取应该禁止的立场”“没有开发的意向”。然而,在联合国专家会议等场合上,日本的主张极其微弱。

美国国防部的立场是“让人类参与判断”。美国为了维持本国在这个领域的优势,不同意采取限制措施。有专家甚至预测,在不久的将来,全世界都会拥有自主型杀手机器人。

对于所有国家的领导人来说,不论大国、小国,自主型杀手机器人的“优点”是极具诱惑力的。对奉行“本国优先”、重视计算得失的特朗普来说,尤其如此。

如果再加上对其他国家先行拥有的恐惧,关于伦理是否正确的问题很可能不再是考虑对象。这些情况都在支持“不久全世界都拥有”的预测。

有观点认为,AI不会出现在前线,而是越来越多地被用在司令部启动、策划和执行作战的过程中。因此,不同于人类与机器人关系的3种分类方式,AI军事化的新类型可能率先成为现实——不进行个别的杀伤判断,以己方士兵损害最小化和敌方损害最大化为目的、针对整个战斗做出判断的“AI参谋”。

要想阻止和推翻噩梦般的预测,需要国际性的舆论合力,但各国军方仍在暗处激烈地进行开发竞争。

与瞬间造成大规模破坏和大量军民死亡的核武器那种大规模杀戮武器不同,不身处战场的普通人可能无法实际感受到杀手机器人的反人道性。

然而,在这个问题上,美国领导人很难自己踩刹车,几乎已经不可能回头。从特朗普签署的总统令可以读出这样的信息:为对抗中俄,世界上最大的军事强国必须正面参与开发竞争。

(2019-03-26 10:39:32)

【延伸阅读】《终结者》景象或已不远!揭秘“技术冷战”催生智能武器

参考消息网9月10日报道 阿根廷布宜诺斯艾利斯经济新闻网9月8日发表古斯塔沃·谢拉的文章《从隐身战舰到无人机编队:技术冷战时期出现的各种武器》,摘编如下:

在《终结者》系列电影中,人工智能防务系统“天网”有了自我意识,并学会用军事装备消灭人类。

在现实生活中,美国、俄罗斯、法国、英国和以色列等国防务体系中的军工企业也构成了类似“天网”系统的庞大网络。几乎所有这些企业都在独立运作,但同时积累着从其他企业的科技进步中获得的信息。它们试图在完全保密的状态下进行研发。但已经有信息显示,《终结者》系列电影中的景象成真或许已为期不远。

隐身战舰组成的舰队、无人机编队、每秒能发射55枚导弹的自动发射器、能在一分钟内识别超过百万张敌军图像的探测器、能在几小时内摧毁一个军团的机器人、能够让整个大陆的网络瘫痪的计算机……所有这些装备都将不需要人员来操控,因为它们具备远程控制或自我控制功能。

目前,各军事大国的实验室正在加紧开发这些武器。非营利性新闻机构公共诚信中心近日发布的报告,提供了关于这些项目的内容及其所处研发阶段的一些线索。该报告的标题是《很快将投入战场:可以杀人的机器人》。

美国海军已经在测试名为“海上猎手”号的无人驾驶军舰。这艘军舰排水量为135吨,是目前世界上最大的无人驾驶军舰。它在没有驾驶人员和远程控制的情况下,也可以自主航行。

“海上猎手”号配备了自动导弹发射器,可以在没有直接监控的情况下探测敌方目标并实施打击。一切都由计算机系统处理,它无需等待人类命令即可实施自主导航。“海上猎手”号已经在夏威夷和加利福尼亚之间进行了自主航行测试。这种无人驾驶军舰将与名为“海龙”的快速行动艇一同部署。

“海龙”是遥控操作的无人艇,可以接近并攻击任何目标,而不会被卫星在较远距离发现。与此同时,为避免海军陆战队员的伤亡,美军正在对一种名为“海上暴徒”(Sea Mob)的无人飞行器进行测试。该无人飞行器“能够执行自主编队任务”。也就是说,这些编队飞行的无人机可以自主发起协同攻击。类似的无人载具已被应用到探测火星的行动中。

时任美防长阿什顿·卡特曾在提交2017年国防预算案时描述了这些正在研发的武器中的一部分。他谈到了超高速射弹(HVP),这是一种新型导弹防御武器,能够以接近高超音速的速度发射制导炮弹,能以前所未有的速度应对任何导弹袭击。卡特当时说,这种为电磁轨道炮研发的智能超高速射弹,是可以在陆地和舰船上使用的又一种导弹防御系统。

与此同时,美国陆军正为其坦克开发一种新系统,该系统能够智能选择目标并先于人脑反应作出射击决策。美国陆军还研发了一种名为联合空地导弹(JAGM)的导弹系统,该系统能够在没有人类命令的情况下选择车辆目标进行攻击。今年3月,五角大楼要求国会增加3.67亿美元的预算,以生产1051套JAGM系统。

美国并不是唯一开发这些武器的国家。以色列拥有非常先进的军工产业。其最成功的产品之一是“哈比”反辐射无人机。该无人机可以躲避雷达探测,并能同时对多个目标实施高精度导弹打击。英国开发出了“硫磺石”空地导弹,这种导弹可以在战场上识别坦克或其他军用车辆,区分装甲和非装甲目标。这种智能导弹在飞行中能够彼此协调、为不同优先级的目标排序,分别实施打击。

2018年,普京表示,人工智能带来了巨大机遇,也意味着难以预测的威胁。他强调,引领人工智能发展的国家“将成为世界的统治者”。

资料图:美国海军的“海上猎手”无人舰。(美国海军网站)

(2019-09-10 11:21:31)

【延伸阅读】现实版终结者!无人车每分可打万发弹幕

近日,俄媒在网上公开了一段俄军最新研发的无人战车视频,可见车上配备有2门四管YakB型12.7毫米加特林机枪。

图为新型无人战车的主武器特写,2门并列布置的YakB型12.7毫米四管加特林机枪,每门射速可达每分5000发,2门齐射可达每分1万发,可有效杀伤包括敌军步兵群、轻型装甲车以及直升机在内的多种目标。

YakB型12.7毫米四管加特林机枪实际是俄军武直的固定武器之一,图为米-24武直使用机头炮塔的四管12.7毫米Yak-B加特林机枪对地扫射资料图。

图为新型无人战车使用加特林机枪开火瞬间。

新型无人战车侧面特写,可见加特林机枪的弹箱位于两侧位置,采用履带式底盘也是为了增强其全地形通过能力。

其外形酷似科幻电影《终结者3》中的“天网”T-1机器人,只不过T-1的火力更为凶残,配备了2门六管20毫米“火神”转管炮。

除2门12.7毫米四管加特林机枪外,无人战车还配备有2具三联装多用途发射器,可用于发射烟幕弹或榴弹。

在无人战车的车头位置安装有一个多用途光电传感器,还采用了多镜头配置,可覆盖车前近似180度的视野。

车载加特林机枪的火控传感器则位于炮塔侧面。

(2018-10-18 08:49:00)

(责任编辑: HN666)
看全文