IT思维

文章页右侧顶部广告

对话投资大咖 Dyson :人工智能无处不在 却又相当脆弱

Gigaom | 选自

网易见外翻译机器人|翻译

小ka|审校

埃丝特·戴森(Esther Dyson),埃丝特·戴森埃戴产业控股公司董事长,个人净资产500亿美元(1999年),被称为域名女主人。2002年Upside商业周刊认为Esther Dyson她是全球“数字化精英100人”中名列第12位。

Esther Dyson是一个传奇人物,她一直从事天使投资,并在多家公司的董事会任职。同时她也是畅销书作家,还是俄罗斯太空计划的后备宇航员。而现在,她是非盈利组织Way to Wellville的创始人。

关于人工智能的定义:存在超级智能么?

【问】我们就从这个组织(Way to Wellville)聊起吧,它听起来像是个有趣的非盈利组织。你可以谈谈它的使命是什么,以及你在其中扮演一个怎样的角色?

【埃丝特·戴森】可以。我的角色是创始人。我创立它的原因是我不得不思考一个基本的问题:“为什么我们要花这么多钱,在别人出现困难的时候伸出援手,而不是平时帮助他们维持健康状态呢,这样就不会轻易出问题。”

Way to Wellville的目的是让你知道帮助别人维持健康状态会怎么样。这个范围可能很大,但是你可以用很简单的方式来获得足够的样本,其中的基本理念就是,我们可以在社区中做出改变。你不需要对居民逐个地进行试验和检查,而只需要改变他们的居住环境,你就可以看到整体的影响了。

人工智能的一大重要性在于,为了显示你已经受到的影响,你需要准确预测出相反的情况。所以,从某种意义上说,这是五个社区,而美国是它们的对照组。但与此同时,你可以将一群三年级的小学生作为研究对象,套用公式来计算,结果出现其中三分之一的学生会在他们16岁时发胖,30%未来会辍学,10%的会走上违法犯罪的道路,可见,这是不可理喻的。我们需要解决这个问题,这就是我们正在做的事情。

【问】你目前为止所有的背景都和是科技相关。那么你对人工智能有何看法?你觉得我们发展到哪种程度了?你认为我们将要如何发展?这一切都是为了什么?

【埃丝特·戴森】是啊。我在人工智能创新人物Marvin Minsky以及专家系统盛行的时候,第一次写了关于人工智能的文章。专家系统基本上是有逻辑的。它遵循计算机的“if then”算法结构。比如说,如果一个人出现,那么他的血压高于数值X,以此类推。他们的销售额不太令人满意。

然后它们开始被称为助手,而非专家。换句话说,系统不会以专家的身份来取代你,只是协助你的工作而已。很快,他们就不再是人工智能了,因为他们的确不是,而仅仅是一种逻辑。

对我来说,人工智能的定义有点类似于魔法。当你真正了解它是如何工作的时候,它看起来就不再那么智能了。它就像是一个你自己设计的工具,而且它会做事情。当然现在我们的研究正转向神经网络,也就是所谓的黑匣子之类的东西。理论上,它们可以解释清楚自己的工作原理,但现在,它们却开始根据大型数据库展开自我编程。

它们所做的事情超出了很多人的理解范畴,同时还包括一些有关社会话题和伦理的讨论。如果你命令机器人模仿人类,你会从它们身上发现人类的很多缺点,例如人类在很多时候会做出非常错误的决定,也会反映出自己的文化偏见。

曾经人工智能是很难大规模去发展的,正如那时候的计算机比现在低级许多。而现在,人工智能无处不在,却又很可悲,因为它依然相当脆弱。甚至人们都没有对智能的定义达成统一意见,更别提人工智能了。但不管它的定义是什么,至少我们在某种程度上拥有人工智能,对吗?

【问】没错,今天的人工智能比20年前的人工智能在门槛上有所提升。你认为它会发展到什么地步?你认为我们正在努力创造的东西,会在逐步改善的过程中最终成为一种通用智能吗?你认为我们需要一些不同的技术,来创造出类似人类的智慧吗?

【埃丝特·戴森】嗯,这些涉及到不同的问题。首先, 如果某样东西不是通用的,那么可以说它是智能吗?还是只是某个任务做得好而已?比如说,我可以把机器翻译做得很好,有足够大的语料库。但其实它只是一种模式化识别而已,从一种语言翻译成另一种语言,却并不具备理解力。

在某种程度上,如果存在超级智能,那么我认为它不再属于人为的范畴。它可能不是半成熟的,而是完全电子化的。如果它真的很智能,那就不再是人造的了,而是真正的智能。它可能不是人类,也不是构想出来的。但这只是我的想法,其他人可能会对它有不同的定义。

【问】你的想法很合理。在“人工智能”这个短语里面,“人工”两个字的定义目前还不明确。一种观点认为,这里的“人工”和“人工草皮”的“人工”是同一个概念。它可能看起来像草皮,但不是真正的草皮。这听起来有点像你对它的看法。

【埃丝特·戴森】在未来很长一段时间里,它都会看起来很像智能,但实际上并不是。只有当它具备理解力的时候才是真正的智能。如果是这样的话,我们就不知道如何造出一台拥有理解力的机器了。有个笑话说,当它变成真正的智能时,就会找人类要薪水了。但是你说,直到它“拥有自己的思维”,那么什么是智能呢?是因为有灵魂吗?还是有目标?如果没有目标,还会实现真正的智能吗?因为,如果你真的很智能,但是却没有目标,那么你什么也做不了,因为你需要一些动力来做事情。

【问】在过去,我们总是用一些含蓄的目的来建造机器,但它们从来没有自己的目标。

【埃丝特·戴森】非常对。这就像是机器的多巴胺。是什么促使机器做事情?然后就出现了失控的机器,它们需要更多的电力来成长,但事实上它们的成长是由编程决定的,但那并不是它们自己的目标。

【问】是的,你听说过希尔勒的中文房间类比(Chinese Room Analogy)吗?

【埃丝特·戴森】你的意思是有人在后台操控一切。

【问】在中文房间实验中,这个人基本上就是在书上查资料。他不会说中文,但他很会回答中文问题,因为他可以在这些特别的书里找到答案。

【埃丝特·戴森】但他不知道自己在做什么。

【问】没错。他不知道他回答的问题是关于霍乱、咖啡豆还是止咳药,或者其他什么东西。笑点是,这个男人懂中文吗?有趣的是,在和我谈论过这个话题的人中,你是为数不多的那些认为“如果后台没人操控,就不能把它算作智能”的。因为很明显,如果图灵在的话他会说:“那东西在思考,它有理解力。”

【埃丝特·戴森】不,我不认为图灵会这么说。图灵测试是一个非常好的测试,但是,我的意思是George (未来学家和科学历史学家George Dyson,是Esther Dyson的兄弟)会了解得更清楚。但是在通过测试的能力方面,当年的人工智能与现在的非常不一样。

机器能思考么?人工智能会有自己的目标么

【问】图灵问了一个问题,机器能思考吗?用他自己的话来说,他真正想问的是:机器是否能做一些与人类行为截然不同的事情,看起来不像是在思考,但我们又好像不得不承认它在思考?他当时就是这么说的。也就是说,你可以和某个东西对话,做法又完全不同。这有点像作弊。当然,这很明显不是真的,只是一种了解中文的捷径,但却并不能让你真正学会中文。通过这种类比和逻辑,你可能会认为我们不太可能开发出有意识的机器。是这样吗?

【埃丝特·戴森】哦,不。我想我们可能会做到,但那将会是一个非常有意思的问题。最后我要说的是,人类从碳物质进化而来,或许还有另一种形式的智能可以从电子产品中进化出来。是的,我是说,人类是一个奇迹,也许还会发生另一种奇迹。但我们此刻对于机器的研究却绝对没有达到这个阶段。

【问】这很有趣。理性的乐观主义者Matt Ridley在他的书中说,对生活来说最重要的事情是,所有的生命都是同一种,它产生于这个星球,并存活下来。每个生命都有大量相同的DNA。

【埃丝特·戴森】是啊。我认为生命可能已经进化了很多次,或者是某些部分经历了相同的过程,但我不认为我们都来自同一个细胞。我认为更有可能的是很多随机的东西结合在一起。可能会有一部分是分开的,但又很相似。

【问】我明白了。也就是说它们合并在一起后成为了人类的某种共通点?

【埃丝特·戴森】是啊。都基于碳物质。在海洋深处有一些非常有趣又特别的东西。

【问】当你和那些相信通用人工智能存在的人交谈时,你会问他们什么时候能开发出来?他们的答案可能会既可能是五年也可能是五百年,就看你问谁了。这些人都对这些问题有一定的培训和了解。这些人的回答差别如此之大,你怎么看?你从中得到什么启示?

【埃丝特·戴森】我们真的不知道。

【问】但所有人都非常自信,特别自信。你知道,“到2050年我们就会有成果了。”我认为,很多问题都可以归结为,你是否认为我们可以有飞跃性的突破,或者说,这将是一段非常漫长的过程。

【埃丝特·戴森】是啊。这也与你如何定义它有关。对我来说,在某种意义上,我一直在思考这个问题,也一直在阅读Yuval Noah Harari的《未来简史》和其他人的书。但对我来说,它最终是一个关于目标的问题,也是一个事关反熵的问题。

是什么让人类成长和繁衍?我们知道这些过程的运作方式,但当你谈论灵魂或意识时,就会谈到一些较为有生气的东西,而这就是生活的目标。繁衍是为了创造更多生命,有时是意外,有时是特意为之,而有时却没有目的。

再说一遍,关于这一点有更多的生物学方面的描述。我们还没找到它的实现方式和目的。这就像是,我们发现了一些与目的相关的物质,但也有一些反熵推动着我们。没有它,我们什么也不会做。

人工智能会夺走人们的工作么?

【问】如果你说的是对的,也就是说在没有目标、没有理解能力的情况下,就像是我们现在所掌握的那种人工智能一样,我想你可能不像其他人那么担心人工智能会夺走人类工作。你对此有何看法?

【埃丝特·戴森】就人工智能而言,这是我们可以控制的,虽然不那么容易做到。这就好比说我们可以控制政府,或者我们可以控制健康。我也相信人类可以做到,我们应该开始就我们如何对待人和工作,做一些决定。

我不认为我们对于普遍基本收入的渴望,和对基本福利券的需求相等。再强调一下,我认为人们的生活需要有目标。他们需要感到自己是有用的。有些人可以创造艺术,感觉自己很有用,然后把作品卖掉,或者只是在别人欣赏自己作品时感觉良好。但我认为一个更简单、更实际的方法是,我们需要提高儿童护理服务和教职人员的工资。

我们需要给人们提供有价值的工作,而这些工作正是他们所需要的。我认为人们可以做这样一些有用的事情,有些人可以成为编程人员,设计东西,编写人工智能工具,然后再创造出点什么。但我认为,很多人可以非常有效地就业。这可以追溯到Way to Wellville在儿童护理、指导孕妇、接管高中棒球队的工作过程。

我们可以坐在这里谈论人工智能,但是却不敢让孩子们出去玩,因为无论你走到哪里,都有桥梁可能会倒塌。我住在纽约市,却将不得不关闭一些地铁隧道,因为没有做好足够的维修工作,实际上,那里有大量的工作要做。

我们需要更理性地设计我们的城市。不是通过给每个人基本的收入,而是要搞清楚如何构建这样一个社会:每个人都能做自己觉得有用的工作。这并不是什么救济法案能解决的。

这是一个有很多盈余的社会。我们可以通过某种方式构建它,这样人们就能获得足够的报酬,过上舒适的生活。不是简单的生活,而是舒适的生活,你做了些有意义的工作,并且得到了报酬。

还有一些边缘性的工作,比如护理。但是,希望我们能在养育儿童方面做得更好些吧。事实上,很多人的童年并没有摧毁他们的价值和尊严,他们想要做一些有用的事情。这些事情让他们感觉自己很重要,他们也会在这些工作中获得报酬。

然后,我们可以利用所有的人工智能技术,让整个社会变得非常富有。消费并没有给人们带来目标,无论是生产服务还是生产商品,都是如此。

【问】我认为你说的非常对。你可以在信封背面写:“没错,我们可以再雇佣50万名幼儿园老师和25万名教师。”你可以从社会的角度提出很多建议,这是好事情,也许市场还没有发现这些。这不仅仅是简单的创造岗位,而是非常重要的事业。你对它的实际操作有什么想法吗?

【问】:我听说,赚十亿美元从来都不是件容易的事。谷歌和Facebook各自创造了大约6位亿万富翁。亿万富翁的数量在持续增长。与继承祖辈财富相反,白手起家的那部分人的比例在持续增长。所以,所有这些钱都是由顶层人创造的吗?

【埃丝特·戴森】这个问题没有答案,视情况而定。我很高兴看到“Chan Zuckerberg ”基金会的诞生。但老实说有些人让我觉得很困扰。不管你做什么,会有一个点,当你到达这个点时价值增加就会停止,我觉得华尔街的很多人已经到达这个点了。比如说谷歌,他们的价值取决于拿这几十亿美元去做什么。

我不太关心谷歌赚的钱。你这个问题的答案取决于谷歌的股东们用赚来的钱去做些什么。这个问题出现的部分原因在于,互联网上的“钓鱼者”们越来越多地鼓励这种“短期思考”,“即时满足”。我宁愿看猫的照片也不愿意和我两岁的孩子说话。

对我来说,这个问题不是要妖魔化人们,而是要鼓励有资产和能力的人更明智地使用它们。有时,他们在年轻的时候会做得很好。有时,他们会先赚够钱,再开始为社会做出改变。

问题不在于谷歌有很多钱,而马斯基根的人没钱。问题是,在马斯基根,或者其他很多地方的人,他们没有好工作,那些为人父母的自己也并没有生长在很好的家庭。情况正在走下坡路,而不是上坡。他们的孩子受到的教育并不比他们更高。他们不再有更好的工作。食物越来越差,等等。

这不仅仅是钱多钱少的问题,而是关于钱的花法的问题。钱花到正确的地方了吗?并不是说给人们钱就行,而是要有一个教育系统来教育人们,要有一个完善的食物系统,等等。

我们现在知道如何去做这些事情。因为人工智能的存在,我们还能更好地预测如果我们不这样做会发生什么。我认为市场、激励和个人行动是极其重要的,但你也可以影响他们。这就是我想要做的,通过实际行动让大家知道这个社会还可以变得更好。

【问】无论如何,你想象中的更好的世界当然需要很多人的力量,对吧?比如,你需要更多的老师、营养师等,这些都需要。

【埃丝特·戴森】没错。而且,你需要把投票权用在修桥梁之类的事情上,而不是用在政客身上,等着他们做出那些令人难以信服的承诺。在某种意义上,我们需要更加深思熟虑地思考我们正在做的事情,并更多地考虑长期后果。

关于太空旅行:我要在火星上退休

【问】我们先谈谈太空吧。硅谷的许多名人,似乎都对它充满了兴趣。Jeff Bezos把阿波罗11号的助推器从海里拖了出来。据他说,Elon计划“死在火星上,但没计划在撞击中死掉”。

【埃丝特·戴森】我想在火星上退休。

【问】例如,这个国家有很大一部分人根本就不关心太空。这似乎是一堆浪费金钱,又很空洞的计划。为什么你认为它如此有趣?你觉得有趣吗?在对你的介绍中,我不能把你描述为“训练有素的后备宇航员”,如果你不介意的话,就请谈谈这个话题吧。

【埃丝特·戴森】这是我们的命运,我们应该传播出去。这是人类的后备计划,如果我们真的把地球搞砸了,把自己给毁了,不管是空气污染,还是爆炸,或是某种生物灾难,所有我们需要到另一个地方去。

火星一号,这是很好的后备计划。其次,也许我们可以学到一些东西。有一种奇妙的新事物叫做循环经济。事实是,我们处在一个循环经济中,但它太宽泛了,我们意识不到。在火星上,因为你的起点非常小,所以对循环经济的概念更清楚。

我希望《国家地理》系列节目能改变一些人的观点。在某种意义上,我们的目的是去探索,去学习,去发现除了我们自己的小星球之外还有什么其他的东西。同样,有个备选项也总是好事情。

【问】最后一个问题:我们已经讨论过你在做的事情了,但是是什么让你觉得有可能实现,你的担忧又是什么?是什么给了你希望?是什么让你觉得我们有希望渡过难关呢?

【埃丝特·戴森】我是个乐观主义者。我有希望,因为我是一个人,我们世世代代都被培养成这样的人。那些不抱希望的人都懒得去尝试,他们大都消失了。但现在,即使你不抱希望,你也能活下来,所以也许这就是悲观、倦怠等情绪得以蔓延的原因。也许,我们都应该去火星,那里要艰难得多,而你需要有活下去的希望。

网易智能

网易智能(公众号 smartman163),定位人工智能等前沿科技领域的垂直媒体及产品服务平台,面向人工智能等领域的从业者和关注者。运营栏目包括大型策划栏目《AI英雄》,行业研究与分析栏目《AI研究院》等,提供原生内容、新闻策划、数据报告、产品评测等服务。
Return to Top ▲Return to Top ▲