【猎云网（微信号：ilieyun
）】12月7日报道 （编译：堆堆）
年度最恐怖的电影不是由好莱坞制作的，而是由一个想要从杀人机器的魔爪下拯救我们生命的团队制作出来的。
电影描述了在不久的未来，世界如同地狱一般。手掌大小的无人机装载着炸药，利用面部识别技术准确寻找到目标对象并进行屠杀。一系列灾难性的攻击席卷整个国家。成群的迷你型杀手冲进国会，屠杀参议员。恐怖主义分子释放出一大群飞行怪物进入学校，抓捕那些公然反对他们的家长的孩子。
《杀戮无人机》这部短片向我们呈现了人工智能的阴暗面。之所以这部影片让人感觉如此恐怖，是因为这离现实如此之近。
我并非是危言耸听。机器学习给我们带来了难以置信的新动力，从手机上的细胞癌识别到奇异的材料设计语言再到加速药物研发。虽然人工智能也许会消除大量工作岗位，但它也可能会带来一个黄金时代。未来，也许会有很多全新的工作，而我们如今却只能想象之。
虽然终结者和超级聪慧的人工智能占领世界大多只是一个幻想（至少在一百年来不会影响到我们），但如果存在这样的可能性，这些机器很快就会问世。
卷积神经网络支持下的面部识别技术运行良好。你可以从亚马逊上购买到数十架极小型的无人机。一些开源机器人操作系统已经在Github上出现。更糟糕的是，登录暗网，你很有可能就能获得无数炸药的配方。
将这一切整合在一起，你就像是获得了一颗智能子弹，它可以将恐惧注入世界中心。
而这仅仅只是开始。
地球上最大的芯片制造商（包括Nvidia、Intel以及一些资金充足的秘密初创企业）都很难为突然出现的智能应用开发快冲芯片。它们正在制造新的体系架构，用其为未来的无人驾驶汽车、卡车、外科手术机器人以及家用清洁机器提供所需动力。
特斯拉的电动卡车几乎能够实现全自动驾驶。有一点是肯定的，这些芯片也能够支持自主武器。
随着芯片变得愈加智能和小巧，这将赋予微型杀手各式各样的新能力，比如说躲避或是应对无人机部队的联合攻击。这些武器已然问世了。
美国国防部去年发布了一个视频，显示在加州美国海军武器试验基地中国湖（China Lake），一些微型战斗机从飞机上落下。
你可以观察到，这些武器能够轻松俯冲下来并且攻击战斗机。它们发出的金属尖叫声会反复出现在你的噩梦里。它们使用的算法来源于对昆虫和狼群掠夺者行为的研究。不难想象，未来美国海军战机武器学校会释放出大批机器来攻击敌军的飞机。这些机器会利用炸药从所有角度破坏飞机的机翼和引擎，并且投放出军用飞机。
这些武器的建造都来源于现今所谓“动力不足”的芯片。
他们还能利用这些专业人工智能芯片开发出什么产品并在未来流入市场呢？我想，不久之后就会有人觉得之前曾认为的科幻情节变成了可怕的现实。
更糟糕的是，我刚和世界顶尖的人工智能研究人员Vian Chinner见过。我将这部电影的内容告诉了他，并且表示如果我们能将芯片尺寸缩小到足够小的程度，这部电影里的情节很有可能会变成现实。他的回复让我毛骨悚然。
“我们根本不需要微型芯片也可以做到这一点。利用无线技术，你可以集中智能，远程进行操控。”
这就意味着当下就已经可能存在这种武器了。
博弈理论、黑色预算与恐惧
作为一个未来主义者，我喜欢那些无法解决的问题。每当我发现了一个找不到答案的问题，我就忍不住一直去思考。
先从我们能查到的信息着手。制作这部电影的群体是非盈利性质的，它致力于在智能武器兴起之前就将其废除。他们特意安排好了电影发布的时间。同时间点，联合国正在就自主武器召开会议。Elon Musk以及其他一百位科技人才都支持大规模禁止使用人工智能攻击系统。
我完全赞成这一禁令，但我认为这一禁令很有可能不会奏效。
让我们来看看原因，以及我们为什么不能因此就停止禁用AI攻击系统的脚步。
禁令之所以会失败的第一个原因在于，这些武器的存在对于世界领导人和军队来说极具诱惑性。俄国总统普京早就表示“谁可领导人工智能的发展，谁就可能成为世界的统治者”。军队策划者会将这些杀人机器当做是变革战争的工具。不管你们相不相信，他们认为自己是高尚的。
如果你仔细思考一下的话，你会发现他们所说的并没有错。
向居民区大规模抛掷炸弹会带来附带伤害。它们会误杀对象，射杀无辜的女性和儿童、将当地基础设施毁为一旦、引发可怕的人道主义难民危机。这些危机会失控并演变为新的冲突。家长在这场灾难中失去了自己的孩子，这将使得民众转为和你敌对的状态。
图为难民逃离叙利亚被摧毁的城市
但精密人工智能武器会将上述的一切可能都抹除。建筑物不会崩塌，夜间新闻里也不会出现无辜儿童丧命的消息。事实上，这些隐秘的掠夺者只会在夜色的掩护下展开行动，在坏蛋发现之前就可以戳穿他们的面目。这要比部署海报六队或投放导弹便宜太多了。
训练一位海豹突击队士兵大约需要花费35万美元，此外每年还要再花费100万美元来让他们服役。一枚爱国者导弹的发射需要花费300万美元。而像之前描述的无人机才需要几千美元。更为高级的无人机可能会价值5万美元。
有一个老掉牙的笑话——军事情报其实是一个自相矛盾的概念，毕竟它根本不需要一个天才去计算数据的投资回报率。
在这些微型怪物进行出售的时候，世界上没有哪个军事策划者不想要下单买个一千万架。
禁令失败的另一个原因很可能是因为全球内，不是所有国家都同意这一禁令。只要有一个国家在研究，那么博弈理论告诉我们其他人也会如此。就像是核武器，你不能冒险——如果其他国家拥有了这一武器呢。你没有的话，它们就会在未来的冲突中直接击败你。这是一个生存威胁。
即便所有国家都同意遵守禁令，这也无足轻重。世界上最强大的国家依然会利用秘密黑色预算、不管不顾得建造武器。
尽管真正的问题在于，任何人都能获取这些武器。即便我们成功从国家层面上禁止使用了，但这些武器的制造是很简单的。利用现成的一些元素，比如说3D打印机、开源软件以及一些意志力。这就意味着恐怖主义分子迟早会拿到这些武器的。
下一次9/11事件也许就不是大楼崩塌，而是针对异教徒的精准攻击了。
在意识到这些内容之后，我认为我们必须要禁止将这些武器用到战场上。
化学武器的禁令是非常有效的。在一战之后，我们再也没有看到过化学武器的大规模使用。当然，一些国家依然在秘密使用，但大部分都不会将其用在解决小的区域冲突中。这有可能会引发另一场世界大战，那样社会风俗就会毁于一旦，因为真正的化学战争即将再次袭来。
那有没有什么办法可以真正阻止这件事变为现实呢？坦白说，我不认为有什么解决方案，但我仍然在想办法。至今为止，最好的办法就是提出反措施。
反监视衣物就是一个潜在的解决方案。这一方案是可以立即实施的。
我预想在未来，任何面临威胁的人都会拥有一些能够阻碍热扫描或面部识别技术的毛衣、夹克或兜帽上衣。面部的彩妆也许是唯一横亘在你和迷你型导弹之间的东西了。3D打印的面具也许能有一天拯救你的生命。所有人的背包或汽车里都要留一个面具。
另一个较为可能的选择就是防御无人机。每一个行动都有相对应的举措。你也许需要使用自己的微型机器来防御无人机的攻击。
能够引导机器远离指定禁飞区域的地理围栏将会设置在政府建筑物、基地或学校外，但是杀人机器不太可能会在意这一点。坏蛋会直接将软件中的代码去除。即便我们成功将地理阻止技术用在芯片上，它们也依旧会在你睡觉的时候盯准你。
一个更好的办法就是能源或磁场障碍，这可以在小型怪物靠近你的时候摧毁它们。就将此想做是科幻小说里应对电子器件入侵（Intrusion Countermeasure Electronics）的方式吧。俄国和美国已经拥有了微波武器，它们最多可在六英里之外摧毁无人机。
未来二十年，应对电子器件入侵（Intrusion Countermeasure Electronics）技术将主导家庭安全系统。
讽刺的是，在你屋顶上方、由人工智能技术支持的微波武器恰好能应对杀人机器。将其想作是烟雾报警器吧。
当然，这些方法都不是万无一失的。
和生命里许多事情一样，枪支管控以及核威慑，这些做法看上去都很简单，但实际情况要复杂得多。禁令没有大家想得那么有效。巴黎拥有全球最严格的枪支管控法，但是恐怖主义分子依然能够带自主武器进入城市，枪杀编辑Charlie Hebdo。
这才是真正的难题，虽然很难轻松找到答案，但这并不意味着我们就该放弃。
