机器人能丰富人类生活——

只要在我们掌控之下

文 / Martin Rees

译 / 小黄鱼

马丁•里斯(Martin Rees)：皇家天文学家，剑桥大学存在性风险研究中心的联合创始人。 

人工智能科技正突飞猛进，然而我们该如何对待这些比我们更加聪明的类人机器呢？ 

是虚构的科幻还是真实的未来？人类与机器人的差异可能变得模糊

早在1942年，伟大的科幻作家艾萨克·阿西莫夫（Isaac Asimov）就制定了机器人三大定律：第一，机器人不得伤害人类，或看到人类受伤害而袖手旁观。第二，在不违反第一定律的前提下，机器人必须绝对服从人类给与的任何命令。第三，在不违反第一定律和第二定律的前提下，机器人必须尽力保护自己。 

几十年之后，人工智能已经渗透流行文化： 最近一次出现是在电影《机械姬》 （Ex Machina）中。不仅如此，人工智能科技取得的进展是如此之大，以至于很多人在激烈地争论阿西莫夫的三大定律该如何被应用于当下的世界。 

在距离发明相当于人类智力水平的机器人还有多久的问题上，专家们产生了分歧：我们还需要耗费20年，50年，甚至更久的时间吗？哲学家争论的焦点是：“意识”是否仅仅存在于人类、猿和狗等生物的大脑之中？即使机器人的智力看起来已经超越人类，是否仍然缺乏自我意识和内在生命？尽管存在着种种的疑问与分歧，有一个观点却得到了普遍的赞同：我们正亲历一个伟大的时代，得以见证机器人的学习能力、交流能力、与人类互动能力的伟大进展——这一进展不仅给人类带来了巨大的利益，还携带着我们必须尽力避免的危险。 

机器人在特定领域的能力已经超过人类，这一点并非新闻。即使是上世纪70年代的口袋计算机，做代数题也远快过我们。 

计算机用我们的方式学习：它们用“蛮力”学习。它们内在的网络比人类大脑简单太多，为弥补这一缺陷，它们的神经元以光速传递信息——比人类大脑以化学方式传递信息的速度快几百万倍。通过阅读多种语言版本的数百万份欧盟文件（从不感到无聊！），计算机还学会了翻译外国文献。通过观察总结数百万图像，它们还学会了识别狗、毛和人类的脸——这并非人类婴儿学习的方式。 

由于计算机能够处理大量数据，它们能识别人类常常忽略的某些趋势，这就是对冲基金分析师的赚钱之道。也许未来的“超级电脑”能够分析网络上的所有数据，由此具备某种神谕般的力量，使它们的主人能轻易掌控国际金融和战略情况，这一点，可能会是我们所要忧虑的。 

比起数据捣弄能力的发展，机器人在软件与传感器方面的进展要慢很多。即使是在棋盘上移动一枚棋子，机器人也比一个小孩要笨拙得多。尽管如此，传感技术，语音识别技术，信息搜索技术等等仍然在取得长足的进步。 

谷歌的无人驾驶汽车已经能够独立行驶数千英里。确实，要让机器人像熟练的司机一样应对紧急事故，仍然需要再耗费数年去改进技术。然而机器人已经能够比一般司机做得好了：它们并不像人类那样经常犯错。到时候，道路交通会变得更加安全。但是，一旦事故真正发生，会产生法律上的雷区——“司机”到底是谁？是车辆的主人还是设计师？ 

无声自动机器人的在军事上的运用又如何？它们能否被信任，通过脸部识别来找到目标对象而后决定是否发动攻击？到时候又是谁承担道德责任呢？ 

在制造工业中，机器人正在替代人类。它们将会在更多的领域替代我们工作——不仅仅是体力工作（水管疏通和园艺等工作会是最难以自动化的领域），还有牧师，常规的法律工作，医学诊断和手术等职业都会由机器人承担。那么，最大的问题来了：机器人时代的降临是否会像早先的破坏性技术一样，创造了多少职业就毁灭了多少岗位？就像汽车工业的诞生一样？或者这次的情况完全不同，就像布林约夫森(Erik Brynjolfsson)和安德鲁•麦卡菲(Andrew McAfee)合著的《第二个机器时代》(The Second Machine Age)讨论过的那样？ 

新的发明会产生庞大的财富，只是这些财富需要通过税收的大范围重新分配，以确保每个人至少拥有维持生存的收入。除此之外，公民悠闲的生活未必会带来健康稳定的社会——当今卡塔尔公民的生活状况就是例子佐证。 

到2050年，或者更早一些，我们的社会一定会被机器人改变。不过，它们会是迟钝的专家还是会拥有人类全部的能力？如果机器人会向我们一样熟练地观察并解释自身所处的环境，它们将被认为是智慧生物，到时候我们要为它们负责吗？ 

到那时，阿西莫夫的定律就起作用了。我们如何确保机器人会保持温顺而非变得难以驾驭？如果超级电脑有了自己的心智，它可能会侵入网络并操控全世界，甚至会视人类为障碍，到时候我们该如何应对？ 

早在上世纪60年代，在布莱切利园(Bletchley Park)与阿兰·图灵（Alan Turing）共事的英国数学家I. J.古德（I.J. Good）就指出，如果它足够全能，超级机器人会是人类的最后一项发明。一旦机器人的能力超过人类，它们能自己设计并仿制新一代更强大的机器人。或者，人类可能超越生物定律与计算机合体，而在这一过程中，人类会丢失个体性并进化为共同意识体。 

我们并不清楚，虚构的科幻与真实的未来之间的界限在哪里。然而，一些权威人士认为当前的人工智能领域还需要指导方针来引导“负责任的创新”，他们之中的许多人签署了最近的一封公开信，该信呼吁人工智能创新需要更多地担当其社会责任。我作为忧虑现状的“非专家”也参与了签名活动。 

在之后的写作中，阿西莫夫还增加了机器人第零定律：机器人不得伤害人类整体，或因不作为使人类整体受到伤害。也许，人工智能专家需要给与这第四条原则同等的重视。

科幻星云网翻译出品，转载请注明出处