IT思维

文章页右侧顶部广告

Google设想将《黑镜》情节变为现实,但要你的隐私作交换

2018-05-24 15:10:21 0 企业思维 | , ,

译者 | shawn,Just

出品 | AI科技大本营(公众号ID:rgznai100)

Google 靠着收集和利用用户的信息造就了数十亿美元的业务。近日,外媒 The Verge 发现了一部 Google 内部制作的短片,这部短片非常大胆地介绍了一些 Google 内部人士对未来如何利用用户信息的设想。

这部短片是 X 部门(先前的 Google X)设计总监、Near Future 实验室联合创始人尼克·福斯特(Nick Foster)于 2016 年末制作的,只在 Google 内部分享。短片设想了一个数据收集全面化的未来,到时 Google 会帮助用户实现他们的目标,通过 3D 打印定制个人化设备来收集更多的信息,甚至引导人类群体的行为来解决贫困和疾病等全球性问题。

X 部门的一名发言人发布声明称:

我们知道这个设想的确令人不安,不过这就是我们要的效果。这是我们设计团队几年前进行的一次思维实验,我们使用一种名为思辨设计(speculative design)的方法来探讨令人不适的想法和概念,以此来激发讨论和辩论。这个设想与当前或未来的任何产品都无关。

为了让社会更加美好,设备(即所谓的 ledger)收集到的所有数据都以数据束的形式呈现,并且可以传送给其他用户

这部时长 9 分钟的短片名为《The Selfish Ledger》(短片名称是对达尔文 1967 年著作《The Selfish Gene》的致敬)。短片开头先介绍了拉马克(法国生物学家)表观遗传学的历史,表观遗传学主要研究的是生物组织一生中所形成特性的遗传。

福斯特在片中担任旁白,他认为如果从遗传学的角度看,表观遗传学的理论确实站不住脚,但是可以作为用户数据的一个隐喻。我们使用电话的方式创造了“一种代表我们的不断演变的表征”,福斯特将这种表征称为“ledger”(数据档案),他假定这些数据档案可以不断积累,可以在用户间转移,并且可以用来调整用户行为。

数十年以来,以用户为中心的设计原则一直是计算世界的主导原则,如果从不同的角度看待问题会怎么样?如果数据档案不只是作为历史参考,还可以被赋予自由意志或目的会怎么样?如果我们将自己看作为数据的保管者、暂时携带者或看管者而不是所有者会发生什么?

福斯特表示,设备所使用的 ledger——关于我们的“行为、决定、偏好、活动和关系”的数据,可以像世代遗传的基因信息一样从一个用户转移给其他用户。

Resolutions 是 Google 提出的一种系统级的全局设置概念,它会让用户挑选一个宽泛的目标,然后通过引导用户的日常行为帮助其实现这个目标

短片中间部分的内容介绍了 Google 系统提出的一款基于 ledger 构想的概念产品Resolutions,它要求用户选择一个生活目标,然后通过用户与手机的交互来引导用户实现这个目标。举例来说,Resolutions 会在用户使用 Uber 召车时鼓励其选择对环境更加友好的车辆,或者引导用户从西夫韦(Safeway)零售商店购买当地出产的产品。这些引导会“反映 Google 这家公司的价值观”。

Google Resolution 出现在一个零售商店 App 的界面上,推荐与用户所选目标相符的选项。

当然,这个概念是以 Google 可以访问大量的用户数据以及影响用户决策为前提。短片中并没有谈及用户隐私问题或潜在的消极因素。Ledger 对数据的大量需求可能是短片中最让人不安的一点。

福斯特设想,“未来,受目标驱动的 Ledger 概念会变得更具吸引力;更改建议的也许会是 Ledger 本身而不是用户”。系列剧集《黑镜》当中的情节将成为现实,Ledger 会主动地试图填补其知识缺口,甚至选择购买它认为用户可能喜欢的产品,用产品收集用户的数据。

短片用浴室磅秤举了一个例子,因为 Ledger 还不知道用户的体重,然后它就变成了令人不安的科幻电影,Ledger 可能会变得十分聪明,能够设计并 3D 打印出一台磅秤。想象一下,当你有天回到家,Ledger 对你说:“欢迎回家,主人,我给您造了一台磅秤。”

一个概念云处理节点正在分析用户信息,确定缺失的相关数据点(在这个例子中是用户的体重)

在福斯特的设想中,Ledger 不只是一个帮助用户进行自我改进的工具,它还可以“填补自己的知识缺口并改进其对人类行为的建模”——建模的对象不是你我的行为,而是全人类的行为。福斯特解释道,“通过把用户数据理解为多时代的数据,Ledger 可以通过分析先前世代的行为和决策,让新的用户受益”。福斯特设想,Ledger 会为模式挖掘人类行为的数据库,像测序基因一样对数据进行「测序」,对人类的决策和未来行为作出越来越准确的预测。

“随着数据收集和比较的循环越来越多,Ledger 可能会对抑郁、健康和贫困等复杂问题形成种族层面上的理解。” 福斯特总结道。

Ledger 的中心原则是尽可能多地积累数据,目的是为了在未来可以理解更加重大的全球性问题。

福斯特是 X 部门的设计总监,而 X 部门是 Google 致力于实现未来主义目标的造梦工厂。Ledger 的概念虽然接近于科幻小说,但是却与 Google 现有产品所传达的态度几乎完全匹配。

Google Photos 可以通过预测得知用户心目中最有意义的照片,再根据其 AI 系统的理解自动生成相册。Google Maps 和 Google Assistant 可以根据用户平常去的地方和行为习惯提供建议。这些服务都呈现这样一种趋势:Google 对用户数据越来越贪婪,而且变得越来越独断。甚至 Gmail 的邮件编组也走向自动化。

随着公众越来越了解新技术和 AI,潜在的道德问题和产品的负面影响常让 Google 措手不及,Google 最近在开发者大会上演示的会打电话的 AI——Duplex 就是一个最新的例子。公众批评 Google 开发的 Duplex 拥有欺骗人类的能力,这使得 Google 不得不承诺 Duplex 在与不知情的服务业工作者通话时一定会表明身份。

《The Selfish Ledger》将 Google 塑造为可以解决世界上最难问题的公司,它以令人不安的程度全面掌握着每位用户的个人信息,引导全人类的行为。

实际上,Google 的《The Selfish Ledger》视频中的想法在其专利应用中可以找到些许端倪。

Google 在 2015 年的一项专利应用所呈现的思维模式至少是与此同步的。一位读者指出,一项名为“检测和纠正用户行为的潜在错误”专利应用与《The Selfish Ledger》概念的核心部分可以用非常相似的术语来定义:在个人层面上,是帮助用户进行自我提升和行为修正。

实际上,这个专利文件中所描述的想法听起来很有用。它提出了一个系统,在其中你的设备将使用 Google 已经收集的信息,比如你的电子邮件收件箱的旅行行程,而当你你开始前往错误的机场,你的手机就会知会你走错了路。

然而,为了让手机变得有用,它需要非常熟悉你的生活。除了提前知道你的计划,它还必须知道你平常的通勤模式,并且需要知道你当前的位置和活动,以确定是否符合你早先提出的计划。这是 Google 服务的永恒二分法:它们确实有所帮助,但为了方便起见,你愿意为 Google 放弃多少隐私?

另一个从去年公开的名为“通过智能手机进行导购”的 Google 专利应用,它是一个自动购物助手,当它检测到你正在查看购物系统时,它可能会帮助你购买物品。假设您正在浏览电商网站上的最新运动鞋。这就是系统指导你完成采购流程时的可选择产品类型、功能、型号和商家。

为了向用户提供完成购买的正确指导,该系统将使用从先前执行了所需任务列表的用户那里获得的信息。换句话说,它将“至少部分地基于从已执行相关任务列表中的一些或全部任务的消费者那里收集的信息来确定目前相关任务列表中的任务的顺序”。这听起来是不是像《The Selfish Ledger》?

这项“引导式购买”专利应用中的次要声明之一是将广告插入到购买流程的最后阶段。具体来说,Google 将收集那些希望在其系统中搜索特定产品的公司的投标。就此而言,专利应用不同于《The Selfish Ledger》的 Highfalutin Brave New World 部分,前者直接回到了为 Google 赚钱的目标:创造帮助广告商更好地展示商品的新服务。

这件事最让我印象深刻的是人们几乎无视《The Selfish Ledger》的消极反应,很少有人真正了解 Google 已经参与数据收集的程度。《The Selfish Ledger》并没有彻底背离了今天 Google 的实际目标,这只是将他们的逻辑发挥到极端的概念性视频。

作者:Vlad Savov

原文链接:

https://www.theverge.com/2018/5/17/17344250/google-x-selfish-ledger-video-data-privacy

题图来自 pixabay

IT思维

IT思维(itsiwei.com)是互联网首个定位在科技与电商“思维”韬略的平台,我们时刻关注互联网电商行业新动向; 诚邀行业资深从业者加入“思维客家族”!
Return to Top ▲Return to Top ▲