专访《技术奇点》作者:人类水平的人工智能定会发生

来源:界面新闻作者:林子人

沙纳汉认为有三类最不容易被自动化的工作:结合了灵活动手能力和常识感的工作、需要创造力的工作和需要人际交流的工作。

近年来,关于"人工智能即将取代人类工作"的讨论不绝于耳。随着语音助手系统、无人驾驶汽车等人工智能技术的日益成熟、BAT等中国科技巨头对该领域不断加码投入,我们对人工智能未来的应用场景也愈发清晰起来。

然而有一位业内人士认为,公众和媒体对人工智能的理解依然不足,其中最大的谬误是把科幻电影和现实生活混为一谈。

默里.沙纳汉(Murray Shanahan)是伦敦帝国理工学院认知机器人学系教授,负责指导动力学组的研究。他毕业于帝国理工学院、剑桥大学,从2006年其担任帝国理工学院教授至今。沙纳汉是奥斯卡获奖影片《机械姬》的科学顾问,研究跨越人工智能、机器人学、逻辑学、动力系统、计算神经科学和哲学思想等诸多领域。或许正是因为亲身介入了科幻电影的制作,他对时下人工智能在普通大众心目中的形象有更准确的认识:

" 外行人,尤其是媒体,在讨论人工智能时常常会犯两个相互对立的错误。第一个错误就是产生\'人工智能已经存在或马上到来\'这一错觉。一些专门的人工智能技术确实不断渗透到我们的日常生活中,但人类水平强人工智能拥有常识和创造力,远非现在的人工智能技术可比。 同一批怀疑者也可能会犯另一个错误,就是认为人类水平人工智能永远不会出现。"

为了纠正这些谬误--更重要的是向公众传播人工智能这一即将在未来发挥巨大作用的领域相关知识--沙纳汉撰写了《技术奇点》一书。他在书中提出,颠覆性的人工智能将会有两次浪潮,一次是一系列具有互补性通用认知能力的专门人工智能技术逐渐开始改变人们的生活和工作形态,另一次则是人类水平人工智能,即超级智能的出现。"第一次浪潮很可能会发生:今天已经出现了无人驾驶汽车和智能数字个人助理,从中可以清楚地感受到第一次浪潮的悸动,它很可能在21世纪20年代全面展开。第二次浪潮距离我们更遥远,也很难准确预测其出现的时间,但它肯定会产生更大的潜在影响。"

人工智能会抢走人类的工作机会吗?沙纳汉的答案是肯定的,但他不像尤瓦尔.赫拉利在《未来简史》中展现得那般悲观。事实上,他认为我们现在还对未来人工智能对人类社会的潜在影响一无所知。但重要的是,我们需要为所有可能会出现的情况做好相应的准备。"如果人类水平人工智能注定会发生--也许在十年、二十年、三十年之后--那么重要的是我们要如何负责地去开发。"他说。

伦敦帝国理工学院认知机器人学系教授默里.沙纳汉(Murray Shanahan)。

界面新闻:是什么促使你写了《技术奇点》这本书?

默里.沙纳汉:《技术奇点》是一本面向大众读者的书。读者也许接受过一些科学教育,但并不精通科学、计算机之类的知识。所以这本书的目的是向大众读者传播人工智能这一我认为非常重要的领域的相关知识,它在当下的发展程度,未来又将朝哪个方向发展。

这本书的标题本可以是"人工智能的未来",这可能是更好的一个标题,因为"技术奇点"这个概念是有一点背景知识需要了解的。你也许知道雷.库兹韦尔(Ray Kurzweil)的《奇点临近》(The Singularity Is Near)这本书。在那本书里库兹韦尔指出,由于指数级快速发展的科技力量,特别是人工智能和神经科学,我们即将面临剧烈的社会变动,进入史无前例的大变革时代,社会面貌将无从想象。这就是《技术奇点》想要表达的意思。

界面新闻:鉴于目前市面上存在的人工智能仍然较为原始,你在书中的很多描述看起来像是一种思维实验。你的论点的事实基础在哪里,想象未来的困难之处是什么?

默里.沙纳汉:你说得很对,这也是很重要的一点。我认为公众太容易混淆这一点了。特别是看了科幻电影和诸多媒体文章后,人们很容易将科幻和现实混为一谈。在这本书里的确有很多思维实验,而且我对哲学问题非常感兴趣,这些当然是建立在我们目前已开发出来的能力的基础之上的,然后我们根据这些来设想未来的诸多场景

我不认为我们能预测未来将会怎样,所以我想象了一系列未来可能出现的场景。然而有一件事是我们现在就确认无疑的:我们不知道如何开发出人类水平人工智能,但这正是我们常常在科幻电影里看到的东西,也是令媒体感到兴奋的东西。这也是《技术奇点》的论述前提。但说真的,我们不知道如何实现,也不知道我们何时能够知道如何实现。

我认为怀有不同目的的人对想象未来的困难之处有不同的理解。科幻小说家或电影制作人的主要目的是娱乐大众,他们并不一定需要提供令人信服的答案,只要能够给读者或观者提供感官刺激就好了。但如果你真的想要预测未来、如果你想通过看清未来几年的趋势来了解自己应该投资那些公司,那你就要尽量避免投机猜测,你会希望自己的预测是有事实依据的。

另外这也取决于你在看多远的未来。想象五年以后的世界会容易很多,我们对五年以后的科技会变成怎样还是有些值得说道的东西的。比如说,我认为在五年的时间里会变得越来越重要的一项技术是无人汽车。要将在路上看到完全自动驾驶的汽车也许还需要再等等,它们还没有能够像人类那样处理复杂路况的能力,但如果面对的是比较标准统一的路况,比如说高速公路,我认为我们会看到越来越多完全自动驾驶的汽车和卡车。

另外一个领域是语音助手系统。当然我们现在有了苹果Siri和亚马逊的Alexa。它们现在的表现已经令人印象深刻了,但你还不能和它们进行真正意义上的对话。如果你问这些语音助手系统,我需要买一些面包,它们是不知道你在说什么的。它们也许可以告诉你附近售卖食物的超市或商店的地址,但他们并不明白面包是一种你拿来吃的食物,因为它们本身没有食物或饥饿的概念,而只是把一些单词关联在一起。那些系统对世界没有自己的理解。所以如果你要求他们把一些截然不同的事情联系在一起,比如说\'今天晚上我要外出三个小时,我会饿的,所以需要现在吃点面包\',当下的语音系统是缺乏这种常识的。但我认为随着时间推移,我们将看到语音系统越来越有常识感,我们越来越能够与它们展开真实的对话。

界面新闻:所以你的书讨论的时间段是什么呢?

默里.沙纳汉:我的书里讨论了好几种不同的时间段。我实际上在书中谈到了人工智能技术颠覆的两次浪潮。我们可以充满自信地说第一次浪潮是肯定会出现的,而且现在已经开始了。在这个浪潮里我们能看到无人汽车以及当今产业里人工智能与机器学习的各种应用。这已经在发生了,而且即将取得爆发式发展。但除此之外我还谈到了第二次颠覆浪潮。那将取决于如果--注意这里有个大大的"如果"--我们真的能够创造出人类水平人工智能,就像我们在电影里看到的那样。当人工智能强大如斯,真的很难语言未来世界会变成怎样。

界面新闻:人工智能、大数据、云计算、区块链这些词在当下被热议。你觉得它们将在何时彻底改变我们的生活?

默里.沙纳汉:大数据对于人工智能来说非常重要。当下人工智能取得成功以及人工智能的未来发展--特别是未来五年的商业化应用--都是基于大数据的,因为人工智能需要依靠机器学习用大量数据去训练。计算能力也或不可缺。你需要足够多的计算能力去消化如此庞大的数据。所以大量数据促成了机器学习革命,这些东西都是环环相扣的。

就云计算来说,对计算能力的需求是和机器学习绑定在一起的。云计算意味着一家实验室或一家公司无需拥有所有的计算能力,只需要向别人购买就行了。你也许有一个需要机器学习的艰巨任务,需要很多计算机来分析数据,也许需要训练三天你的新系统,但你的公司不想在计算机设备上投入百万美元,仅仅只是为了那三天的训练。你只想要购买三天的计算能力。这就是云计算的存在意义。这能够让一家创业公司在三天的时间里拥有价值千万或一亿的计算能力。

界面新闻:在书中你就人类水平人工智能甚至超人类水平人工智能对社会的影响做出了若干种可能性分析。你个人是如何看待科技进步的?这是好事还是坏事,或者争议过大无法下判断?

默里.沙纳汉:我非常希望这会是件好事。我认为人工智能具有巨大的潜力,能够帮助我们解决许多世界性难题。医疗是一个例子。我认为人工智能变革医疗领域的潜力是巨大的。我们可以使用机器学习技术来为病人量身定制治疗方案,这很有可能会实现。我们也能加快诊断速度。如今只有经验丰富的专家经过诸多诊断流程才能在扫描中发现肿瘤,但通过人工智能和机器学习我们能大大加快这一速度。在这个方面人类的受益将会是巨大的。

另外一个例子是谷歌数据中心正在使用DeepMind的技术来提高能源使用效率。他们已经做到了将谷歌数据中心的能源消耗降低15%。这是很大的一个进步。这对环境有好处。如果我们能够广泛应用这个技术,这对全人类都是有好处的。这个技术就是利用机器学习来搞明白如何关闭排风扇,什么时间开启什么时间关闭。这是一套复杂的控制系统,能够使用许多额外信息(比如天气预报)来确保降温措施尽可能地节省能源。

界面新闻:你认为现在媒体对人工智能的宣传言过其实,因为现在的人工智能的能力远低于预期。但一个无可争辩的事实是人们已经开始对自动化感到焦虑了。我们在害怕什么呢,我们是否有理由感到害怕?

默里.沙纳汉:人们现在都在谈论"颠覆",这真是时下的一个热词。行业颠覆的牺牲者就是那些失去工作的人。有人失去工作和生计当然是个悲剧,我认为每一个在科学技术工程领域工作的人都应该想一想自己在做的事可能会引起的道德后果。当你创造了一个技术,却因此造成了大量人员失业,这是非常悲哀的,所以我们当然应该慎重考虑。

我们应该如何解决这个问题?现在很难知晓,因为经济发展的步伐不会停下。如果你能够通过颠覆行业来赚钱,肯定会有人去做的。现在我们很难去讲具体对策是什么,但科学家们是否就应该放弃研究了呢?我的答案是否定的。我认为我们都应该去尽力推动人工智能的发展,但要确保我们研发出来的技术能够令人类受益。对我来说,我偏好那些优化能源利用和促进医疗发展的技术应用。

界面新闻:你是否认为美国和中国将引领人工智能的发展?

默里.沙纳汉:我认为美国和中国已经在引领人工智能的发展了。美国从一开始就在人工智能领域独领风骚。但毫无疑问,中国正在迎头赶上。这里对人工智能的投入非常大,很多中国作者在相关刊物上发表论文。

界面新闻:你提出人工智能技术将会出现两次浪潮,但很显然的是即使是在第一次浪潮里人类社会就会经历巨大的变革了。很多研究指出,许多工作将被自动化,而这种变革的深度和广度将会是前所未有的。你认为未来的职场将会变成怎样?

默里.沙纳汉:虽然我们现在还无法回答,但我们应该为那些我们能够想象得到的场景做好准备。我们可以确定的是人工智能很快就将取代很多工作,通常这是人工智能和其他机器的结合。这将很快对职场带来很大的冲击。想想未来的社会将如何应对这一情况吧。

我们会有一些不同的发展方向。其中一种方向是类似工业革命,许许多多我们现在无法想象的新工作将被创造出来。比如说,未来可能会有需要人类深入运用人工智能的工作。也许一位知识工作者将在人工智能助手的帮助下更高效地工作。这样就不是人类被人工智能取代了,而是人工智能助手让人类专注于更有创造力和创新性的工作。我们就不会在短时间内被人工智能取代。这是看待问题的其中一种方式:许许多多的新工作机会将出现,只不过我们现在仍然无法想象。

另外一种情况是,创造出来的新工作机会不足以弥补我们失去的工作机会。在这种情况下,我们就会面临更多困难。也许我们就应该考虑社会要如何应对工作岗位不足。所以现在有很多人讨论全民基本收入(universal basic income),另外一个概念是全民基本供养(universal basic provision),意思是说能源、食物、公共交通等一切生活所需将全部免费。当然这都不会是五年内发生的事,也许在十年内我们真的需要更严肃地讨论诸如此类的问题。

界面新闻:哪一种情况更有可能发生呢?

默里.沙纳汉:这一点上我改变过想法,这取决于我在和谁交谈。所以我保留之后改变想法的权利。当下我对人工智能是否会颠覆社会秩序保持谨慎乐观的态度。我认为这不太会发生。当然在西方和在中国事情的发展可能会不太一样。这很难讲。我认为将会有足够多的新工作机会出现,人类社会不会有事的。

界面新闻:所以你是反对尤瓦尔.赫拉利在《未来简史》中做出的判断了?他认为人工智能将夺取人类的工作,99%的人将堕入"无用阶级"。

默里.沙纳汉:他的确对未来有种更悲观的态度,他也许是对的。人们,特别是媒体,喜欢有人能够坚定不移地给出确切答案。这就像你投硬币,有两个人站在面前。有一个人认为将会是硬币的正面,另一个认为是反面。但实际上没有人真的知道答案。你投了硬币,最后是正面朝上,然后其中一个人就说,"看吧我早就说过!我知道我是对的!"我认为我们就在一个类似的情形中。媒体不喜欢听到别人说我们不知道答案,但我的确认为我们就是不知道。当然你可以去和专家讨论,经济学家也许会有更好的论据来支持观点。尽管如此,我认为我们面临着太多不确定性。我不像赫拉利那样悲观,但我也许是错的。

很多人担心社会不公。人工智能这样的新技术将会带来巨大的经济增长,但问题是谁将从中获益?创造出来的多余财富是能够普惠大众还是集中在少数人手里?我不认为是前者。受益的将会是科技富豪们,但我不认为他们会认为这是一种光明的前景,他们也不希望社会贫富差距过大。所以现在在硅谷有很多人在讨论全民基本收入,这可是实实在在地在谈把自己赚到的钱捐出去啊,不是吗?因为他们不想看到未来社会比当下社会更加不公平。

界面新闻:所以哪些工作将更不容易被取代呢?

默里.沙纳汉:我常常以水管工为例,这样的工作很难被自动化取代真的令人感到有些惊讶。事实上,如果你家里漏水,水管工需要上门来查看找到问题根源。他们每次工作都要去从未去过的家庭,拆除一些东西,找到有问题的水管。这需要掌握一些常识--你需要了解家庭中使用的物件来找到漏水的地方在哪里,如何拆除问题水管。要做到这些,你既需要灵巧的手工活,也需要处理新状况的能力,还需要掌握常识,这一些都让水管工成为最不容易被自动化的工作之一。

另外一方面,如果你能够从头改造环境,让它易于打理,这就是另外一回事了。如果你能够从头设计并建造房屋,让每一座房子里的水管布局都完全相同,让某一种特定形状的机器人能够接触到水管,那人工智能就会有用武之地。农业也是同样的道理,如果你有很大的一片地,所有的小麦都在规矩平整的地里生长,那么收割小麦也可以被自动化。人们就是这样改造工厂的。几十年来汽车制造都是流水作业。但棘手的是那些无法精确设计的、机器和电脑还无法应对的地方。

另外一种类型当然就是那些需要创造力的工作。我认为我们需要很长一段时间才能让人工智能取代建筑师或室内设计师的工作,这些领域需要人类的智慧。当然,我们可以想象创造出人工智能室内设计师,但它们的设计会比较千篇一律。如果你想要一些独特的、原创的、有趣的设计,在很长的一段时间里我们仍然需要人类设计师。

还有一种类型是需要人际交流的工作。比如说医疗。很多病人和老人不想被机器人照顾。当然每个人或每个社会情况会不同,比如说日本人似乎就更能接受机器人,但在英国老人们对机器人护工会非常抗拒。在很多情况下我们希望得到人的陪伴,如果你是一个老人,你更希望跟人说话。

界面新闻:我们对未来人工智能的讨论实际上也是对人类价值观和道德观念的重新思考。如果我们想在今后充分利用人工智能技术,有哪些问题是迫切需要解决的?

默里.沙纳汉:我认为最迫切需要解决的道德问题是未来就业率的问题。那些对未来有更多洞察的专家应该就此展开更多讨论,在政治领域也应该有更多人开始探讨如果大规模的技术失业出现了应该如何应对。这绝对是一个重大问题。我还认为如果你所在的公司有计划颠覆行业,应该想一想那些将为此失业的人,而不是不计后果地盲目向前。"负责地颠覆",这是我的信条。

另外是关于隐私的问题。在大数据时代,企业通常在获取消费者大量数据的同时很少取得消费者的同意。我们所说的"同意"基本上就是没有仔细阅读条款就点击"同意"按钮。你向企业交出了大量信息,但与此同时你也牺牲了许多隐私。就某种程度而言,你几乎不可能不那么做,因为如果你是一个不玩Facebook的年轻人,基本意味着你脱离了美国和欧洲社会,所以没有哪个年轻人会仔细去思考那些条款意味着什么并拒绝点击"同意"。Facebook只是其中一个例子,还有很多其他公司都在做同样的事。

这样你就交出了大量的数据。当大量数据和机器学习结合起来,就能将个人分析做到细致入微的程度。我认为个人数据应该被妥善运用,谨防被滥用或操纵。当然,企业并不只是想要滥用数据,他们想做的是操纵你去点击某些网站链接,购买某些产品。好吧,这样听起来好像没什么害处,你可以忽略广告,但如果他们能够操纵你的思考方式,这就更加危险了。

界面新闻:那么,你本人为了这个充满不确定性的未来做了什么准备呢?

默里.沙纳汉:我做了什么?我写了这本书呀!我之所以会写《技术奇点》,很大的一个原因是想要教育公众,传播这些观点,特别是厘清即将对我们的生活带来巨大改变的专门人工智能技术和我们在科幻电影里看到的人工智能技术之间的差别。单单是说明这一点就非常重要了。人类水平的人工智能还不存在,但我发现很多人认为它已经在我们的生活中了,他们高估了我们日常生活中使用的很多东西,而这种想法是危险的。

界面新闻:你是否认为我们应该满足于专门人工智能技术带来的便利,不去开发人类水平人工智能技术?

默里.沙纳汉:如果我是世界之王,我的面前有一个按钮,那个按钮上写着"阻止世界上一切开发人类水平人工智能的行为",我会不会按呢?我也许会,因为我认为那条道路上充满了不确定性。在很多科幻电影里有那种人类水平人工智能,你就好像和真正的人那样和计算机展开真实的对话。它也许会是一种非常实用的技术,在各个方面帮助到我们。这是我期待的发展方向,如果它足够强大,是能够帮助人类解决我们之前讨论过的那些问题的。

但我们真的不知道前景会是怎样的。如果我们开发出了人类水平人工智能,我们真的不知道会发生什么,而这种不确定性可能会导致我们想要按下暂停键。但我们也要知道这是完全不现实的。在英国有一个关于克努特国王和海潮(King Canute and the waves)的故事,讲的是很多个世纪以前有一位叫做克努特的国王,他想要向臣民说明虽然他是国王,享有天赋神权,他也不是全知全能的。他将王座面向大海,向海潮下令停止前进,但海潮当然还是来到了海岸上。我认为试图阻止人工智能的发展就好像克努特国王试图阻止注定会发生的事。如果人类水平人工智能注定会发生--也许在十年、二十年、三十年之后--那么重要的是我们要如何负责地去开发。

查看原文
责任编辑:王吉 (FJ015)
0

评论

  • 相关推荐
  • 新闻
  • 娱乐
  • 体育
  • 财经
  • 汽车
  • 科技
  • 房产
  • 军事
App 北京时间客户端 首页