IT思维

文章页右侧顶部广告

尤瓦尔 赫拉利:人类已不能做主,未来算法说了算

7月6日上午,由中信出版集团和百分点主办的XWorld未来进化大会在北京举行。会上,以色列著名历史学家,《人类简史》、《未来简史》作者尤瓦尔·赫拉利首先登台演讲,阐述了他对于人工智能与人类的未来进行了深入的探讨,发表了非常独特的观点与理论。有生之年两个巨变:从“有机生命”转变为“无机生命”,从“人类做主”转变为“算法做主”

首先,赫拉利阐述了当今世界即将迎来巨变。第一个巨变就是,从“有机生命体”向“无机生命体”的转变。目前,几乎所有的地球生命都是有机体,而所有的有机生命都有存活条件,就是只适合在地球生存。但是,一旦从有机生命形态转变为无机生命形态,如机器人、半人半机器人,我们就可以在地球以外的星球生存。

另外一个我们在有生之年能看到的巨变就是,从“人类做主”到“算法做主”。赫拉利举例解释说,比如你想看一本书,以前是这个人根据自己的感觉和喜好来判断读哪一本书,现在我们把这个权利让给了算法,比如亚马逊网站。根据亚马逊算法和对你的了解来推荐给你读什么书。

“当然,目前的算法还不是很了解你。再往后,当你看电子书,书也在看你,它知道你读到某一段的表情,或者读到某一页不想读了,它全都知道。你可以告诉比人你很喜欢这本书,但是你骗不了计算机。”赫拉利表示,“再往后,生物特征传感器可以实时监测我的体征,比如我在演讲的时候,血压是多少。这样,机器就会知道,这本书中什么样的情节会让我愤怒,什么样的情节会让我发笑,我该生活在哪?我该跟谁结婚?”

赫拉利表示,这些判断,也许机器现在选择的时候会犯错,但是再过二十年、三十年,机器就可以给你准确的建议。届时,你甚至可以问机器人,“我有一个女朋友,我该跟她结婚还是分手?”也许机器人综合所有的算法判断,会说“你和你现在的女朋友结婚,90%会幸福。”

但是机器人知道你太注重外表了,你的判断标准还是五千年前祖先在非洲大草原的水平,只看外表(因为那时候好看代表着健康)。但是机器人会告诉你,成功的婚姻中,外表只占10%。机器人告诉你,虽然你这个女朋友不如你想象的漂亮,但是你会更幸福。

也许我们都会期待机器人能给我们带来更好的算法,给我们更好决策。但是,赫拉利话锋一转,“但很恐怖的是,如果你依靠机器人太多,人类的这项技术技能就会退化。就像认路,以前人们依靠知识和经验,现在我们越来越相信和依靠手机GPS,一段时间以后,人类的认路能力就会退化。”赫拉利表示。

人工智能抢夺人类的饭碗,道德判断很重要

赫拉利认为,人工智能如果想抢人类的工作,就必须能做出道德判断。例如,自动驾驶取代了司机的工作,当这辆自动驾驶车在路上飞速行驶的时候,有两个孩子突然穿到路上踢球,自动驾驶预感到这个危险状况,但面临选择:要想不撞死这两个孩子,就要猛转到另外一个车道,但这样会和迎面驶来的卡车相撞,后排的乘客会死掉。

这个时候,驾驶的计算机必须做出道德判断。“这是一个非常困难的道德问题,”赫拉利认为,这个道德问题让车厂来做决定,他们可以推出两种不同道德算法的车,一种是让乘客死,一个是让路人死,用户买车的时候自己选择。

赫拉利进一步解释到,其实一旦你上路了遇到这样的情况,你在几秒钟的时候要做这样的决定,你会忘掉理性,用自己的本能来做出选择。也就是说,人类的伦理与自己的本能之间有很大的差距。但是有了人工智能,这种情况就不一样了,当汽车遇到这种事故,会按照预先设定的程序来执行。
但是,人工智能是否具有人性的温暖和情绪感知力?赫拉利的答案是肯定的。他说,人工智能可以分析你的面部表情,可以监控病人身体内部的变化,可以给出比医生更加准确的判断。赫拉利称,虽然现在人工智能医生还有很多技术的问题,但我们只要突破一次,就可以解决所有的问题。他分析到,目前一个普通人类至少需要被培养十年之后,才能成为一名人类的合格医生,而且只限这一个人。而人工智能医生成功突破以后,可以为所有人服务,这比投资人类医生要效率高得多。

无用阶级诞生,他们没有新工作?未来我们应该教给孩子什么?

赫拉利预测,由于未来所有工作都由机器人来做,工人会没有任何经济价值,也就没有政治上的任何权利。这将给人类社会带来重大的政治社会问题。其中一个最大的问题是:到时候精英阶层还会关心大众的健康、教育以及福利吗?赫拉利分析到,以前政府和精英阶层会投资这些普通大众,是因为他们需要这些人的支持,即使是纳粹德国时期也需要得到德国民众的支持。

但是以后工作、生产甚至战争,精英阶层用机器人就可以解决,他们不再需要这些人。赫拉利大胆预测,未来的社会将会两级分化,一种是“上帝阶层”,而绝大部分人会沦落为“无用阶级”。

当然,赫拉利也在思考解决方法,他认为解决这个问题的关键是教育。他对目前的教育非常不满,他认为现在的教育没有办法来预测到20年后的市场,这就到时我们目前教给孩子的东西,没有办法让他们在二十年后依然有工作能力。总结:目前的AI只有智能没有意识,技术不是未来进化的决定性力量

赫拉利最后一个议题谈到了“超级智能”。赫拉利认为,人们经常会把“智能”与“意识”混淆,智能是解决问题的能力,意识是感知事物的能力。人类是智能、情感、意识合而为一,虽然很多科幻电影说机器人有意识,但是科学告诉我们,目前计算机的意识还是0,没有任何迹象表明计算机未来会获得这种意识。

赫拉利认为,计算机目前只是以一种机械的方式在工作,这里的风险是,当计算机的智能水平超过人类,他会控制这个世界,同时向地球以外去扩张。“我们将拥有一个非常智能的宇宙,但是主宰者是机器人,它们没有意识。”

赫拉利最后总结说,他没有危言耸听,也不是预言家,一切都悬而未决。“技术并不是决定性力量,我们还要注意社会因素的影响,关注我们的意识,而非仅仅是智能。”赫拉利提示说,我们要向发挥技术好的一面,需要关注的是,当我们在投资人工智能的时候,一定要知道它不是单纯的技术问题,AI会对经济、社会、文化产生深远的影响,在投资技术发展的时候,还要投资社会影响。(小羿)

网易智能

网易智能(公众号 smartman163),定位人工智能等前沿科技领域的垂直媒体及产品服务平台,面向人工智能等领域的从业者和关注者。运营栏目包括大型策划栏目《AI英雄》,行业研究与分析栏目《AI研究院》等,提供原生内容、新闻策划、数据报告、产品评测等服务。

Return to Top ▲Return to Top ▲