▍关于人工智能好与坏的想象在电影、文学作品中反复出现。去年年底，霍金接过了科幻作品的接力棒，直接给出了一个警示，人工智能的发展可能意味着人类的末日。未来学者雷·库兹韦尔曾说：“不断减轻人类痛苦是技术持续进步的主要动力。”这显然是人工智能发展的初衷，但这会否招致灾祸？　

小孩子看电视，总会对剧中角色提一个问题：“他是好的，还是坏的？”对于人工智能未来的发展，人们存在同样的疑问：它是包治百病的暖男大白，还是制造矩阵控制人类生息的统治者。

它将来是可怕的吗？面对这个人类亲手拉扯到今天的“小孩”，许多工作在一线的人并不相信这样的推断，“毕竟，它还太小了”，也是基于此，科学家们开发人工智能，就像培育孩子的多个才能似的马不停蹄。有媒体报道，仅年以来，全球产业界已有超过20亿美元的风险投资进入人工智能领域。只要稍作搜寻，就会发现人工智能不断进行着突破，人们在围绕人工智能的各个领域做着展望：“大白之父”卡内基梅隆大学教授阿特克森接受媒体采访时表示，帮助残疾人、老年人更好掌控自己生活的机器人仆从会很快出现；根据印度的科学家在人工智能视觉方面的最新研发，手机将来可以看人表情挂断或接通电话；微软亚洲研究院研发的人工智能能够做到将手语实时翻译成英语并读出……语言传译、自动驾驶、公共安全、金融投资与风险调控等一系列重要领域都有了新型人工智能的介入，似乎机器猫口袋中的宝物正一个个从二维世界跃至现实。对了，机器猫本人也是科幻作品中人工智能的一个典型代表。

关于人工智能好与坏的想象在电影、文学作品中反复出现。去年年底，霍金接过了科幻作品的接力棒，直接给出了一个警示，人工智能的发展可能意味着人类的末日。几乎同时发出类似警示的传奇人物还有比尔·盖茨与埃隆·马斯克，善于将天马行空的想象付诸实际的后者甚至投入了万美元 　　

以目前的研究水平看，人工智能对人类使坏还是个摸不着边际的假想，但是人工智能本身的使用还是存在一些现实风险。

§技术滥用和过于依赖

技术误用或缺陷已经发生在我们身边，对于人工智能过于依赖也有了迹象。“人工智能这件事就是往好里说，不担心那些变坏的可能，全部在人类控制下，都能带来荒谬的结果。”江晓原列举出Nature科幻作品里的担忧，小说里都是根据正常路径想象其被滥用的前景，大部分结局都很荒诞，比如体育、竞选最终就演变成比较科研技术。

技术缺陷和技术滥用是离人类真实生活很近的风险。从技术层面来讲，电脑中病毒，就足以扰乱现代人的正常生活。陈自富以“无人机杀人”谁担责为例，剖析了其中暗含的风险：“杀人存在两种可能，一种是无人机失控，一种是人远程操纵无人机杀人，后者的情况里无人机只是一种工具，责任肯定由操作人员承担，但若是纯粹失控呢？这涉及一个计算机能力的问题。”

李杰认为，人工智能是以目标为导向的，如果为它们设定一个目标，电影里所担心的一些场景都有可能发生，比如有一天汽车变成遥控的，会不会有人集结一百辆车子去冲击一幢大楼？“美国很早就有个通过远程控制飞机取代飞行员的想法，技术都是具备的，但是美国民航局不敢把这个功能标准化，因为担心会被别有用心的人控制操作系统，所以还是由飞行员来操控飞机，保证最安全、最舒服。何况如果机器控制起降，目的可以达到，但过程可能并不是最舒适的。”

阿特克森认为无法阻止机器人变坏的原因之一就是无论好人还是坏人都能利用科技。正如江晓原对人工智能另一种发展途径的担忧——随着电脑的小型化、芯片的广泛使用，很多人工智能研究人员已把注意力放到了人机结合上，简单来说就是把芯片植入人脑。“人脑与芯片互相支持，随着植入智能的高阶化，谁主谁从很难说。这条路对于人工智能发展可能是条捷径，但极具风险。这个事情现在唯一的障碍主要是伦理道德方面的问题，但换句话说，现在一点都不缺乏科学狂人，有很多科学志愿者愿意支持这个事情，一旦做成了就是一个宇宙战士、超人。”江晓原说，很多科幻作品担忧的是超能个体的反叛引发灾难，这只是很小的一个方面。“换个角度，假定芯片入脑商业普及了，假定这样做也没有不可控的副作用，那也是极其危险的，因为马上会出现公正问题——谁能植入芯片？答案肯定是有钱的人；撇开公正不谈，随着芯片植入的成本不断下降，可以普及到更多的人，另一个巨大的风险就出现了——写芯片程序的人，相当于上帝，任何植入者都会受其控制，这比洗脑更为直接。如果程序是负面的，后果不堪设想。”

再推及热播美剧《疑犯追踪》，其中想象的事正是斯诺登揭露过、戈尔在其书里提及美国正在造的一种机器，它能监控所有人的电子邮件、电话，江晓原说：“这个机器其实在电视剧里已经变成人工智能，会自己做出各种各样的判断，于是出现了争夺这台机器的各类势力，谁拿到谁就是超能上帝了。这个路径发展也很成问题。”

陈自富认为，在人类没有把握之前，如果给计算机赋予太多物质上的外壳，比如能发射导弹，或者给它一个很大的决策权让它能决定汇率，非常危险。“在我们不了解它的机制之前，它所做的未必是正确的，赋予过多的物质外壳有很多不可控性，若完全依靠人工智能作出决策，要警惕它给我们带来伤害。但需要承认的是，有些事情人工智能的确能与人类做到互相帮助，比如对气象数据分析产生气象预报的结果、做模拟核试验和模拟风洞。”

§设计智能产品，更要设计产品的使用环境

库兹韦尔将人类考虑未来技术的影响分为三个阶段：首先是敬畏并惊叹于其克服衰老问题的潜能；然后是害怕新技术带来一系列新危险的恐惧感；最后是认识到唯一可行和负责任的道路就是精心设计一种发展路线，既能实现好处，又能控制危险。

马斯克的担忧，在上月百度董事长李彦宏主持的早餐会上重新作了解释，“人工智能方向是对的，但不能操之过急，不要轻易进入未知的领域。我觉得更合适的比喻是核研究，一开始只是用于制造武器，释放能量其实是很容易的过程，而安全地把能源控制住很难，对于我们而言重点是核的安全性。”他认为，应该推动人工智能的安全性。

刚从东京考察回来的李杰感到，安全已经成为日本不少企业产品设计的核心：“汽车企业以前的卖点是汽车省油、质量好、可以做到最新的智能化，现在他们的最高理念是‘保证人的安全’。我认为，人工智能的发展一定是从帮助人开始，到部分取代人，最后到保护人。这里的保护人并不单指人身的安全，还要照顾到人类各方面的忧虑，简言之就是人工智能系统的智能化（Intelligenceofintelligence），其目的是使未来的智能化系统产生的问题不会威胁到人，这个是一定能做到的，但是设计时要去思考。”

李杰认为，人工智能可以变成人们所担心的那种情况，但是人类的责任就是不让那一幕发生。“人设计智能化产品，一定会涉及不同的层次体系，要在这个体系的基础上建立安全层级，比如无论多智能化的产品都只能在一层服务，到了二层需要密码，到越高层需要越多的密码，借此对人工智能产品进行严格控制。我们不要只考虑智能化怎么伤害到人，而是要考虑怎么去设计它，使它伤害不到人。人的智慧是可以设计出一个对人没有伤害的世界，但设计时如果只是想着去设计一款智能化产品，可能就会出现超越产品功能的问题。”在李杰看来，人们到了考虑设计一个智能化安全社会的时候，要把更多的视野放在人工智能产品的安全使用环境上，就好比有车子后，要有交通管理法规，有手机后，要有一个网络安全法规，这些都是安全管理的智能化技术。“智能化系统一定会有其代价和缺点，但人能设计智能化，就能设计出管理智能化系统的智能化方案。人之所以能设计出最可怕的武器，就能解决管理武器的那道底线。”

未来人工智能如何发展，李杰画了一个坐标系：横轴代表可见与不可见，Y轴代表解决与避免。“四个象限里都有智能化的必要，尤其是对‘不可见问题’的避免，这块潜力最大。以开车为例，一辆车子行驶在路上忽然发出警告：前方有障碍物，这是对于‘可见问题’的智能化避免；若提示前方米处经常出交通事故，请降速，这个是车与环境联动产生的一种智能化结果，我们需要人工智能做的就是在‘不可见’的领域内帮人类避免问题。再比如，中医清楚整个人体的医理逻辑，但是无法避免疾病的产生。我认为避免很重要，那才是电脑要帮助人的地方。未来，人工智能就是尽量去弥补我们看不到的世界，逐渐帮助人避免犯错，这是一种互动，而非依赖。我认为，智慧化有三个I：Intelligence（智能）、Interactive（互动）、Integrative（整合性）。以车为例，车身装满传感器可以实现智能化，在此基础上车要跟人互动，要把周边的环境情况整合进来。可以说智能化是自己看问题，智慧化是从外部看需求。一辆车的智能化的标准可能是带多少传感器，其附带的运算能力达到什么程度；一个智慧型的交通是减少交通堵塞、减少意外伤亡。人工智能的目的是与未来的智慧化城市生活连在一起。”

§人工智能会否造成大批失业？

执行着简单任务的人工智能早已进驻工厂。以劳动密集型企业集中的东莞为例，统计数据显示目前东莞已有6成工业企业陆续开展“机器换人”。无独有偶，去年郭台铭在富士康股东大会上表示富士康计划通过引入机器人来进一步优化组装产线。

工厂中大量使用机器人已成趋势，这一趋势会不会导致大批人群失业？

一些学者对于这种情况很是忧虑，原因是此次的情况很特殊。前几次技术革命虽然导致大批失业，但是失业者都能学习新的技能、找到新的工作，比如手工劳动者可以学着操控机器，但机器人取代人力这件事情上，局面是不一样的。江晓原担忧：“当有人鼓吹机器人前景时，我们被告知随着人工智能越来越发达，它们什么都可以做。如果什么都可以取代，失业的人还能找到新的工作吗？到时是不是只有极少数人在机器人的支持下创造财富供养着全人类，而大部分人都游手好闲，那样的社会至少现在没有准备好。”ACM（美国计算机协会）通讯杂志的主编摩西·瓦尔迪（MosheVardi）教授也曾在一个关于人工智能技术进步引发失业问题的演讲中表示，以往的几次技术革命在导致失业的同时也创造了大量新型工作，而人工智能技术的发展从本质上对创新工种贡献有限。

机器人替代简单脑力劳动的例子虽有出现，但目前还只是处于试验阶段，或许还是回到早已推行自动化多年的工厂里找答案更为合适。李杰认为：“机器人的自动化一定是着眼需求。二三十年前，深圳盖个厂会吸引很多人前去，现在反而出现‘用工荒’，很多人情愿开小店过日子。”他认为，中国工厂现在引入机器人是人力成本太高、产品质量求稳的结果。“中国电商的发展造成很多生产曲线波动太大，比如为了配合‘双十一’工厂要短时间内大量交货，这对出货速度、产品质量的稳定性要求非常高，而智能化一来比较快，二来做出的产品质量较稳，可以满足工厂需求。随着将来中国的产品多元化后，标准化会越来越多，对自动化的需求会更大。”

但这不意味着工厂就完全不需要人。李杰说，自动化和人之间事实上有一根平衡曲线，过多的自动化效果不佳。自动化达到一定程度后一定需要人来完成协调工作，因为需要人做质量改进、管理及流程匹配等工作，这类工作是无法固定在自动化流程当中的。“没有人的工厂已经失去工厂的意义了，其本身只是一台大机器。工厂是人的智慧结晶，只有人在里面，工厂才能成为‘学习工厂’，而机器人本身只是‘学习工作’，不会学习设计产品。因为设计产品跟市场、跟人的创意有关，产品是人的思维结果，而不是一个带有明确目的的任务。以iPhone为例，由于App这种互动模式的存在，它的社交价值远大于手机原来设定的沟通价值，它越来越具有整合性，直接影响了人们的思考方式和生活方式，这就是人思维价值的体现，而机器人做不到这一点。人是思考动物，会去适应环境、生活情况、价值观、文化、心理的变化，而这些都是无法量化解决的。”

复旦大学经济学院院长张军认为，20年前是中国劳动力供给量最高的时期，那时如果强制在工厂推行使用机器人的确会造成失业。但是放到今天反而不会，引进机器人对工厂而言更像是刚需。“当前工厂引入机器人有一个前提条件——找不到劳动力。近年来中国的劳动力缺口每年以三四百万人的速度增加，导致劳动力工资涨得厉害，这是工厂引入机器人的主要原因，机器人与劳动力之间并非简单的替代关系。”他认为，大趋势上人工智能进入工厂是不可阻挠的，因为劳动力短缺只会越来越严重。就目前而言，若有工厂全面使用机器人也只会是个别现象，企业家总体会比较谨慎。

“杰里米·里夫金在年出版的《工作的终结》中曾提到用软件更多替代传统的生产方式，现在3D打印机都出来了，比20多年前想象的还要超前。在最新作品《零边际成本社会》中，他展望了一种不同于市场经济的新经济范式——分享经济，在这种经济范式中，物联网将改变人们的生产方式，消费者变成互联网产消者，企业和产消者与物联网相连接，人们更多地回归家庭，失业概念将不再存在，这充满了想象力。”张军认为，人类经过很多次技术革命，每次技术革命都对传统带来挑战，会引发一系列制度变革，而人类社会总有能力应对这些挑战。

但仍有学者担心，技术奇点到来的日子很难预测，可能很遥远，也可能就在不久的将来，那时机器人的成本就会变得很低，势必会大量挤压劳动力市场。江晓原说：“临界点到了，就会出现急剧变化。这种例子在现实生活中有，比如极短的时间里，数码摄影就取代了胶卷。那时大批现代经典形式的劳动力的命运会不会就是柯达胶卷的命运？这一天说不定什么时候就会来到，如果那时人类的经济模式还没脱胎换骨怎么办？”

电影《终结者5》

19世纪的幻想小说中已出现了人造人和会思考的机器之类题材，例如玛丽·雪莱的《弗兰肯斯坦》和卡雷尔·恰佩克的《罗素姆的万能机器人》。塞缪尔·巴特勒的《机器中的达尔文》一文探讨了机器通过自然选择进化出智能的可能性。

在早期涉及人工智能的科幻作品中，人工智能都是以人的形象出现。阿西莫夫的作品尤其有代表性。“上世纪五六十年代，他写了一系列关于机器人的小说，现在业界公认为基本原则的‘机器人三大定律’就是由阿西莫夫提出。他的作品还对机器人的人权做了相当有深度的反思。”江晓原介绍，阿西莫夫的作品还没涉及对机器人反叛的反思，他的反思主要集中在过度依赖机器人可能带来的后果——人类的生存将没有意义，人类的文明会灭亡，属于哲学思考的范畴。

对机器人反叛的想象在后期的科幻作品中逐渐出现。比如电影《机器公敌》就讲到了这一主题。再后来的《黑客帝国》《终结者》中，人工智能都是以反叛的形象出现。“这一时期开始，很多事情如克隆人与人工智能、芯片植入与人工智能之间的边界变得模糊，代表作品有迪克的小说《仿生人会梦见电子羊吗》。”

江晓原介绍，科幻作品反思科学开始于19世纪末20世纪初科学技术迅速发展的时期。在西方，前沿人士做科学，科幻作者反思科学，一搭一唱似乎已约定俗成。“科幻作品的反思是必要的。科研人员都有种科学狂热，总是天然地愿意进行乐观想象，未必会看到隐藏的风险，更何况很多研究人员不愿意涉及这样的问题，这相当于结束了他的研究生命。”历史上也的确有过因为反思终止某项研究的例子，人工智能经历过的一个冬天就源起学界对其发展前景的质疑。如今的现状就如陈自富所说，人们所关心的人工智能到底会否超越人类之类的议题，就很少出现在人工智能研究专家的话题中。“他们更关心实际问题，比如算法的改进，如何写一个识别人脸的程序代码或是做吸尘器机器人……为之操心的多数是人文类的学者。”

“事实上，这些科幻作者也不能完全归类于‘人文学者’，他们很多出身理科，比如阿西莫夫本人就是医学院副教授，他们都有着科学背景。”江晓原说，需要科幻作品反思是因为科学本身缺乏反思的能力，而人文学科例如哲学、文学都具有反思的维度。

专题（.4.17）

人工智能是人类的“终结者”吗？本报记者刘力源

订阅我们！点击标题右下“文汇学人”转载本
转载请注明原文网址：http://www.huangjinshoucang.com/nlkfff/nlkfff/20446.html