IT思维

我们要避免去做那些在可预见的环境中自动消失的重复性或结构化的工作，比如电话推销员，仓库工人，收银员，火车操作员，面包师或流水线厨师等等。

卡车、公共汽车、出租车和uber/lyft的司机可能很快就会被取代。除此之外还有许多职业（包括律师助理、信贷分析师、贷款官员、簿记员和税务会计师），虽然他们没有被列入将被取代的名单之中，但他们的大部分工作都是自动化的，因此需要更少的人力。

由于机器的设计是一种智力活动，一台超智能机器可以设计出更好的机器。毫无疑问，这将会是一场“智力爆炸”，而人类的智慧将远远落在后面。因此，第一款超智能机器是人类需要制造的最后一项发明，前提是机器足够温顺，能够告诉我们如何控制它。

摩尔定律决定了我们在二维硅晶片上移动电子的成本是多少，一旦进入这个平台，我们就可以尝试许多其他的硬件解决方案——例如使用三维电路，使用电子来完成我们的竞标。我们仍然比物理定律的极限计算要低一百万亿倍。

人类一般不讨厌蚂蚁，但我们比它们聪明得多——所以如果我们想建一座水电站，那里有蚁丘，这对蚂蚁来说简直太糟糕了。

这些都是具有挑战性的问题，可能需要几十年才能回答，所以我们现在应该开始一项研究，以确保我们在需要的时候能找到答案。但相对于花费数十亿美元使人工智能更加强大，迄今各国政府几乎没有资金用于人工智能的安全研究。