外媒：美国在联合国上拒签AI杀手机器人的禁用协议

据法新社日内瓦12月2日报道，华盛顿2日在联合国拒绝了一项管控或禁用杀手机器人的约束性协议的倡议，而是提出应该制定相关的“行为准则”。

本月13至17日，联合国将召开《特定常规武器条约》（Convention on Certain Conventional Weapons，CCW）缔约国第六次审查会议。在此次会议之前，各国代表在日内瓦会面，讨论致命性自动武器的使用规范。

据了解，联合国自2017年以来一直在日内瓦举行外交对话，旨在就解决杀手机器人的使用问题达成协议。但迄今为止，各国甚至就是否需要对此类武器进行管控也尚未达成一致意见。

许多国家提议尽快签订法定协议，限制杀手机器人这类武器的使用，包括智利、墨西哥、巴西、阿根廷、菲律宾、巴勒斯坦等，新西兰在11月30日亦表示将会推动相关禁令。

在日内瓦的讨论会上，美国却拒绝签订该项法定协议，美国代表乔希·多罗辛（Josh Dorosin）在会上说：“我们认为，取得进展的最佳方式是起草一份没有法律约束力的行为准则。”多罗辛认为，行为准则就能够督促国家负责并遵守国际法。此外，印度也拒绝签订该项协议。

以美国和印度为代表的反对立法国认为，就算他们不研发杀手机器人，其他国家也会。

麻省理工学院物理学终身教授、未来生命研究所创始人Max Tegmark教授认为这样的说法不成立，他认为，联合国以往通过立法禁用生化武器，已经成功地限制了生化武器的广泛使用，而杀手机器人跟生化武器一样，便宜且致命！

【科学家警告：AI杀手机器人能大规模杀戮】

关于AI杀手机器人的问世，科学家并非没有警告过。美国加州大学伯克利分校计算机科学教授Stuart Russell在国际上赫赫有名，他的著作《人工智能：一种现代的方法》在全球被1500所大学用作教科书，他过去10年一直希望禁止AI技术应用于锁定人类的全自动武器。

早于2017年，Russell教授在日内瓦的外交会议上报告他对AI武器的看法，他播放短片《杀戮机器人》（Slaughterbots），片中描述一种直径约8厘米的小型无人机，可携带炸药，靠近并炸死敌人。

视频：Russell教授播放小型杀人无人机的短片Slaughterbots

俄罗斯大使看到此片的反应却是嗤之以鼻，认为这种情节只是科幻小说，在未来25到30年内都不用担心。Russell教授当时认为不需那么久，几个研究生花几个月就能组装这样的武器。

果不其然，该会议的3个星期后，土耳其就出现与《杀戮机器人》片中一样的武器。

视频：土耳其武器制造商STM推出的自动杀人无人机Kargu

2017年11月，土耳其武器制造商STM宣布一款自动杀人无人机Kargu，可通过人脸识别锁定目标。据联合国报告，这款Kargu无人机被应用在2020年的利比亚内战中。

Russell教授表示，在国际上，土耳其的科技水平并不高，STM也只是小型的武器制造商，所以可以想象其他国家也正在研发这类武器。

Russell教授警告称，致命的AI武器体型很小，成本很便宜，制造门槛也很低，假如不加以监管，AI武器可以像枪械一样普及，产生巨大威胁。

【人民网发文：莫让人工智能技术走入歧途】

美国拒绝签订禁用杀手机器人的约束性协议的倡议书后，12月3日，我国人民网随即发表题为《莫让人工智能技术走入歧途》的文章。

文章表示：“从实际情况看，美国、俄罗斯、日本、英国、印度等主要国家均认识到人工智能军事应用的颠覆性力量，积极发展和部署智能化武器系统。一些中小国家为借助智能武器系统获得挑战大国的非对称优势，也对其趋之若鹜。从他们的所作所为来看，都是为了谋求一己私利，企图利用人工智能技术巩固自身军事优势。”

文章最后表示，期待12月13－17日联合国召开《特定常规武器条约》第六次审查会议上，各方能秉持“智能向善”的理念，提出符合全人类共同利益和价值观的人工智能军事应用治理规则。

毕竟，无序的人工智能军事应用将给人类带来无法承受之重，只有在人工智能领域打造人类命运共同体，才是唯一的出路。