IT思维

文章页右侧顶部广告

脸书 AI 创造人类不理解的语言?这件事完全是子虚乌有

2017-08-03 10:23:44 0 思维精读 | , ,
最近,报纸刊登了一则独家新闻——人工智能(AI)可能会对我们构成威胁。Facebook的一个人工智能项目“研发出了自己的语言”,开始愚弄人类,AI出现失控现象被迫关闭。这听起来像是科幻电影里的情节——众多媒体对此纷纷报道,甚至还增添了几张看着很吓人的机器人图片来加剧AI威胁论。但是,事实真的如此吗?报道称,这完全是子虚乌有。Facebook的一个AI项目的戛然而止并非因为AI不受控进而威胁人类生存,这完全是断章取义。

人们应感到恐慌并为可能的灾难做好准备吗?

可能还不需要。一些伟大的智者——包括史蒂芬.霍金——担心有朝一日人工智能可能会威胁人类,但关于Facebook的故事却没什么可担心的。

具体到这件事,Facebook人工智能研究院发表声明,称人工智能并未生成自己的语言,而对于AI项目的关闭,其官方解释是研究人员希望AI与人沟通,而不是相互沟通。

故事的来龙去脉
早在今年6月,Facebook就发布了一篇博文,内容是关于聊天机器人程序的有趣研究——它与人类或其他机器人进行了简短的、有设定文本的对话。New Scientist杂志和其他一些媒体都报道了这个故事。Facebook一直在尝试通过机器人来解决虚拟物品的所有权问题。这是为了理解语言学是如何影响谈判各方讨论方式所进行的尝试,关键是,这些机器人被编程来进行语言试验,以观察它们在讨论中是如何影响它们的优势的。

几天后,一些媒体报道了这样一个事实:在一些案例中,机器人之间的对话,第一眼看上去就会感觉毫无意义:

尽管一些报道暗示,机器人在这一点上发明了一种新语言,来蒙混人类主人,但更好的解释是,神经网络只是为了更有效的互动而简单地修改了人类语言。正如科技新闻网站Gizmodo所说:“在他们试图相互学习的过程中,机器人开始用一种衍生的速记法来交谈——尽管看起来有点可怕,但事实就是如此。”

与电影不同,人类和机器并不是在试图杀死对方。

为了更好地计算一项任务,我们需要重新设计英语,这并不是什么新鲜事。

谷歌报告称,其翻译软件在开发过程中已经做到了这一点。“网络必须对句子的语义进行编码,”谷歌在博客中说。

今年上旬,连线杂志报道了OpenAI的一名研究人员,他正在开发一种系统,在这个系统中,人工智能发明了自己的语言,提高了他们快速处理信息的能力,从而更有效地解决了难题。

但是,Facebook关闭这个项目距离现在已经一个多月了额,最近这件事又火了起来。为什么呢?估计是因为前段时间Facebook首席执行官马克.扎克伯格和科技企业家埃隆·马斯克之间关于人工智能潜在危险的争论。

外界认为,Facebook被迫关闭”失控“的AI项目绝对是搬起石头砸了自己的脚的”打脸“行为,但是,追根溯源,人工智能之间产生的人类不可理解的语言,与其说是人工智能聪明地“创造”出自己的语言,不如说是人工智能“笨到”没有学好英语,出现了语法错误,产生了没有意义的语句,让人类看不懂。

但是,报道的方式更多的是关于文化的恐惧和机器的表现,而不是关于这个特定案例的事实。另外,让我们面对现实吧,大屏幕上机器人只会成为大反派。但在现实世界中,人工智能是目前研究的一个大领域,目前用于设计和测试的系统越来越复杂。

这样做的一个结果是,神经网络是如何产生它们的输出的,这一点一直不太清楚——尤其是当两种神经网络在没有人类干预的情况下相互作用时,就像在Facebook中的实验一样。

这就是为什么有些人认为把人工智能放在诸如自动化武器这样的系统中是危险的。这也是为什么人工智能的伦理是一个快速发展的领域——未来科技肯定会更直接地影响我们的生活。
聊天机器人很聪明?其实应用很有限大多数聊天机器人的功能都十分有限,因此和机器人聊天十分无聊。但Facebook的系统被用于研究目的,而不是用于面向公众的应用程序,它之所以被关闭,是因为它做了一些团队不感兴趣的事情——不是因为他们认为自己是在对人类的生存威胁的事情。

同样重要的是,聊天机器人的发展是非常困难的。事实上,Facebook最近决定限制其Messenger聊天机器人平台的推出,因为它发现很多聊天机器人无法解决70%的用户问题。当然,聊天机器人可以被编程成人类的样子,甚至可能在某些情况下欺骗我们——但我们认为它们策划一场叛乱是不太可能的。至少,Facebook上的那些人肯定不会。

选自:BBC  编译:网易见外智能编译平台  审校:佚名
网易智能

网易智能(公众号 smartman163),定位人工智能等前沿科技领域的垂直媒体及产品服务平台,面向人工智能等领域的从业者和关注者。运营栏目包括大型策划栏目《AI英雄》,行业研究与分析栏目《AI研究院》等,提供原生内容、新闻策划、数据报告、产品评测等服务。

Return to Top ▲Return to Top ▲