《未来网络》第三部 背景Part1(2)

潘多拉魔盒打开了就关不上
沃尔什告诉路透社记者，机器人和人工智能技术实际可以在军事领域发挥有利作用，比如完成扫雷等威胁人类安全的任务。“但我们不能将决定生死的权力交给机器，这越过道德底线。”
霍金在世的最后几年，一直在批评人工智能的不节制发展。他的忧惧也是许多专家的忧惧。
2015年1月，美国加州伯克利智能系统中心主任、计算机科学教授斯图亚特·罗素起草了一封公开信，对人工智能研究发出警告。物理学家霍金、特斯拉CEO马斯克，以及来自谷歌、脸谱和微软的人工智能研究人员，还有哲学家，总共有数千人在公开信上签名。
罗素是资深人工智能专家。他说：“我们的人工智能系统，必须要做人类要求它们做的东西。”公开信还警告人们启动“人工智能军备竞赛”的危险。
马斯克是第37个签名者，他后来赞助了一项300名研究人员开启的研究，如何让人工智能对人类更有益。
去年8月，机器人和人工智能公司的116位创始人和首席执行官们，包括马斯克，又写了公开信，敦促联合国采取行动，以阻止“机器人杀手”的发展。公开信提醒联合国有关部门，警惕“战争领域的第三次革命”。
信中说，“致命自动化”科技就是一个“潘多拉魔盒”，而时间就是那把开启魔盒的“钥匙”，潘多拉魔盒一旦打开，就很难再关闭。信中呼吁禁止使用人工智能来管理武器，“一旦发展起来，武力冲突便会成为可能，到那时，战争规模将空前浩大、蔓延速度也将超乎人类的想象。”
公开信建议将这个他们称之为“道德错误”的技术，列入联合国《针对特定常规武器公约》禁止名单。
去年11月一段视频在网上热传，称是罗素在瑞士日内瓦召开的联合国特定常规武器公约会议上公布的虚拟视频：一群类似杀人蜂的小型无人机冲入课堂，以人脸识别瞬间定位所有学生，将他们全部杀死。他以此告诫，如果恐怖分子拿到这种武器，将有多么严重的后果。
联合国一个人工智能专家组去年11月启动讨论，以应对人工智能武器对全球安全造成的挑战。
本月9日，联合国123个成员国代表将在日内瓦就这一议题召开会议。
美国警察曾派机器人
炸死达拉斯枪手
“杀手机器人”指的是致命自主武器，即人工智能（AI）机器人武器，它可以独立设计和选择具体的作战方案，不依赖于人类操控者的判断。
由人类操控的作战机器人已经投入使用，比如武装无人机，以及地面战场上的机器人。《中国青年报》去年9月20日的文章说：“在阿富汗战争和伊拉克战争的长时间地面稳定作战阶段，美军开始批量使用陆地机器人。例如，‘魔爪’机器人用于遂行侦察任务，‘剑’式战斗机器人还具有开火功能。据统计，2004年年末美军投入作战使用的陆地机器人大约为150个，4年后这一数字即增加到约1.2万个。”