马斯克和扎克伯格隔空吵架 AI将人类带往何方

据好奇心日报7月27日报道，两个硅谷科技领袖，伊隆·马斯克和马克·扎克伯格隔空吵了一架。

争吵从扎克伯格家后院的烧烤开始。在上周末的一场 Facebook Live 在线直播中，Facebook CEO 扎克伯格在自家后院里回答了网友提问。

当被问到人工智能威胁论时，扎克伯格表达了非常乐观的看法：“人工智能可以让世界变得更好。”他重复了两遍“乐观”，然后说，“有人鼓吹人工智能会带来末日，我认为这是不负责任的。”

正在介绍家用 AI 贾维斯的扎克伯格 图片来源：好奇心日报

硅谷没有比特斯拉创始人马斯克更大的人工智能末日布道者。

于是有人在 Twitter 上 @ 了马斯克，这位经常在社交网络上和人吵架的 CEO 很快回应说“我和马克聊过这件事，他对这个问题的理解有限。”

这是没什么说服力的争吵。但这两人也分别代表了硅谷对人工智能的两种主流态度。

扎克伯格很少出来评论人工智能威胁论。最大的几个科技公司 CEO 都是如此，Google、Facebook、亚马逊、苹果……他们都在全力投资人工智能。

马斯克则代表着一个少数派，他和霍金等人写过联名公开信呼吁世界正视人工智能的威胁。他和另一位布道者，硅谷最大孵化器 Y-Combinator 总裁山姆·奥尔特曼等人，成立了非营利组织 OpenAI，立志于建立人工智能开发的行业协会。

就在本月中旬，马斯克还在全美州长联合会的夏季聚会上呼吁美国各州行动起来，开始人工智能立法。他称人工智能是我们这个文明面临的最大问题。他举例说，人工智能可以通过制作假新闻来发动战争，操纵信息有时候比武器更具威力。

没人担心人工智能抢走你的工作

这两年，随着李世乭、柯洁下围棋输给人工智能。对人类命运的担忧再度升温。

加之自动驾驶、语音助手、自动炒股、自动卖保险、自动写新闻等实际应用的到来，越来越多人开始担心人工智能会抢走工作。

而利用人工智能推荐信息、预测犯罪、监控民众，则引发了对技术应用的更多疑问。

但这些并不是硅谷科技领袖们担心的事。他们在这件事上的态度高度一致。

马斯克觉得劳动力需求减少会带来人人都有收入的好时代：“随着人工智能带来的自动化，很可能会迎来一个人人都有基本收入的新时代。虽然我不确定不用工作之后人们会干什么，但或许会有时间做别的更复杂、更有趣的事。当然也会有更多闲暇时光。”

同样担心人工智能带来末日的比尔·盖茨则认为机器人的税收会解决社会问题：“机器人自动化也应该收税。如果一个人类工人按照收入征税，比如所得税、社保等等，机器人可以按照同样的工作量征税。世界需要的同样的商品和服务，但解放劳动力可以给老人带来更好的生活、减少阶级差距、关爱特殊儿童。”

曾在 Google 和百度负责主要人工智能项目的原斯坦福教授吴恩达说，他参与的很多 AI 项目可能会能消灭数以万计的工作岗位，人工智能可以创造更多的财富，虽然很难但可以创造一个更公平的社会。失去原有工作的人可以获得更好的教育机会，获得更多其他工作。

从不评论人工智能威胁论的 Google 创始人拉里·佩奇则认为，新的工作时间制度会解决工作变少的问题，他说：“大多数人希望有更多的时间陪家人，AI 时代可能有每个月两周假日或者每周四天工作日，缩减工作时间就能解决工作问题。再增加一些岗位，就能确保更多人拥有工作。”

大致上：人工智能会减少工作，但人们的时间更多了，以后还会有新职业诞生，甚至不干活也会有钱拿。

这个说法很可疑，现实是科技公司通过技术提升效率、减少了体力劳力的需求，但它们并没有主动补偿被代替的人。而它们继续雇佣的基础劳动力收入不但没有比同行高、有些还更低，比如亚马逊的仓库工人、苹果店的店员都是低薪工作。Facebook 雇员的数千内容审查员都是外包的。

过去十几年的机器人对就业和薪资影响的调研也和硅谷的预言完全相反。

但这样的乐观就是硅谷领袖们对于人工智能的共识。

他们吵的是天网

马斯克和扎克伯格两派对于人工智能的唯一分歧大概就是人工智能末日是不是可能发生。

这些人并没有共聚一堂辩论过，但他们各自在不同场合都谈到过这个问题。我们根据这些言论编排了一个虚拟的辩论，所有文字都是当事人原话：

史蒂芬·霍金：

人工智能技术的发展将会终结人类！我们所有人都应该停一停，把研究从提升人工智能能力，转移到最大化人工智能的社会效益上面。

贝索斯试乘巨型机器人 图片来源：Business Insider

亚马逊创始人杰夫·贝索斯：

为了保持公司活力，你得做出又快又好的决定……速度在商业里很重要。再说了，一个快速的做决定的环境也更有趣。

创办了非盈利的人工智能组织 OpenAI 的埃隆·马斯克：

我会给你们一直敲着警钟的！在大家看到机器人在路边随便把人杀了之前，人们都不知道应该怎么对待人工智能，因为这听起来太不真实了。

前 Google、百度的人工智能负责人吴恩达：

未来也许会有杀人机器人竞赛，但我现在肯定专门研究“不邪恶”的人工智能，就像我现在不会担心火星上的人口过载问题一样。

Google 的创始人谢尔盖·布林：

如果世界上所有的信息都连接到你脑子里，或者连到一个比你更聪明的人工智能的脑子上，那你肯定会比现在更好。

Facebook 的创始人马克·扎克伯格：

当我听到人们说人工智能未来会伤害人的时候，会想“科技总是可以为善或者作恶，你得小心处理，小心打造它、小心应用它。”

微软创始人比尔·盖茨：

人类有一个来自进化的通用学习算法，它运行在一套极其缓慢的计算机上、存储空间十分有限，我们必须使用嘴这种滑稽的工具，才可以向其它“计算机”传输数据。每创造一个新的“计算机”，它都得从头来一遍、连怎么走路都不知道。

我们还从没在软件里实现过这样的算法。但一旦把这种算法写进硅芯片，它就会立刻超过人类、成为超人。只要这种算法接入互联网，它就可以读所有的书籍、杂志和其它信息，我们已经给超级智能准备好了内容基础。

我尽量试着不过多宣扬这个观点。但当有人说这不是一个问题时，我真的不能同意。他们怎么能看不到这是多么巨大的挑战呢？

硅谷孵化器 YC 的主席、跟马斯克一起创办了 OpenAI 的萨姆·奥特尔曼：

我们还不知道人类智能是怎样工作的，所以很难证明目前的机器“仿真”智能到了什么程度。很可能方向完全错了，也有可能就差一个算法了……很多人都相信超级智能是危险的，但觉得离得很远，可能永远不会发生。这想法真的草率又危险。

《从 0 到 1》的作者、硅谷著名投资人彼得·蒂尔：

如果我们有比人类更强的人工智能，那就像是外星人来地球了。外星人来了我们肯定不会问它，要不要来帮忙搞一下经济？我们肯定会问，你们是不是要来杀我们的。

被 Google 收购了的人工智能公司 DeepMind 创始人杰米斯·哈萨比斯：

我们现在面对的问题都是很复杂的，无论那是量子物理、宏观经济还是疾病，都有很海量的数据。得面对现实，人类在没有帮助的情况下很难理解。人工智能是我们解决社会问题的工具而已……

吴恩达：

作为一个资深的人工智能研究者……我认为人工智能取代工作是个大问题，这才是我们应该关注的，什么科幻的东西、反乌托邦的东西都是在散注意力。

杰米斯·哈萨比斯（还没说完）：

我的个人梦想是，等搞定 AI 技术，我就用 AI 来创造新的科学家体系，用 AI 来加速科学和医学研究，越快越好。

比尔·蒂尔也是 DeepMind 的投资人：

我记得最后一次 DeepMind 投资人会议，会上某投资人跟我说，这可能是他干掉杰米斯·哈萨比斯，一枪崩了他的最后机会了。（董事会后不久，DeepMind 就被 Google 收购了）

马斯克们担心的超级人工智能，和你手机里的小冰有什么区别？

和《终结者》里发射核弹，奴役人类的“天网”不一样，现在和大家密切相关的人工智能实际上还很弱。

在中文聊天机器人里最流畅的微软小冰，能做的事情大概是和你聊上几十个回合，猜一猜你心里想的哪位名人，最后给你唱首歌。但她距离和你成为真正的朋友还有距离。

智能助手里最厉害的 Google Assistant，可以从聊天记录你整理日程，给你提前选择好出行路线，或者告诉你搜过的某个航班的动态。但是它还没办法按照你交代的提纲帮你记篇日记。

懂得语言最多的 Google 翻译或是微软翻译，他们能翻译世上几乎所有语言，甚至懂的瓦雷利亚语和克林贡语。但对于一个没有学习过的新语言，它们是无能为力的。

换句话说，现在的 AI 人工智能，最多算是某种特定功能的自动工具。按照严格的“人工智能”来理解，它们是人工的、但还没有智能。按照人工智能业界的定位，他们可以称为“弱人工智能”。

在这些基础人工智能之上，可以实现通用人工智能，最后达到超级人工智能的层次。

但其实虽然有这个层次的分野，但我们最多知道“通用人工智能”大概是能和人类一样思考和学习，能够举一反三，甚至产生独立意识。但究竟什么是超越人类的超级人工智能，现在还只是幻想。

而且所谓人工智能，这个东西不是一开始就和人类的“智能”有关。最大的问题是，现在还没人知道人脑怎么工作，也没有关于如何模拟人脑思考的算法。

Palm 创始人、硅谷著名科技创业者，同时也是脑科学家的杰夫·霍金斯的故事很好的说明了人工智能研究的局限。

霍金斯在 1979 年进入英特尔之后，萌发了了对脑科学的强烈兴趣。但当时的主流研究对大脑一无所知。1979 年 9 月的《科学美国人》杂志做了一份关于大脑的专刊，DNA 的发现者之一佛朗西斯·克里克博士在刊中写道：人类现在对大脑几乎一无所知。克里克说，脑科学研究不仅是没有理论，连框架都没有。

受启发想投入脑科学研究的杰夫·霍金斯申请麻省理工人工智能实验室的学习，来开始对脑科学的研究。作为一个计算机科学研究者，他当时认为人工智能和人类的智能，也就是大脑的科学是密不可分的。

但麻省理工人工智能实验室拒绝了杰夫·霍金斯的申请。麻省理工当时认为，人工智能只是计算机科学，和大脑关系不大。

做公司赚到钱的霍金斯 2002 年在加州成立了红木神经科学研究所，专门从事脑神经科学方面的研究。他在演讲中说道，脑科学研究非常重要，只有明白了大脑怎么运作，才能制作拥有智能的机器。

但目前的人工智能研究依然是在对人脑一无所知的前提下工作的。现在的人工智能，无论是小冰这样的聊天机器人，还是特斯拉 Model S 这样的自动驾驶机器，都是按照“输入数据——产出行为”这种模式来研究的。

一年来热度最高的人工智能项目，围棋人工智能 AlphaGo 的研发过程比较典型的展示了所谓“弱人工智能”如何学习。

AlphaGo 基于一个算法，这个算法让机器知道围棋的基础规则，但它增强棋力的方式需要很多样本，也就是下棋的棋谱。在一开始 AlphaGo 是通过模仿人类的棋谱来学习的，但 AlphaGo 最大的突破在于开发了“增强学习”的模式，让机器自己对弈，产生更多的棋谱，同时让这些样本产生足够多的差异而不至于收敛，最终 AlphaGo 达到超越人类的成绩。

可以看出，AlphaGo 的学习过程和人类是截然不同的。

主持发布小冰的时任微软全球执行副总裁陆奇 图片来源：好奇心日报

2016 年 8 月，《好奇心日报》在微软小冰的发布会上采访了时任微软全球执行副总裁的陆奇。在问道关于现在生物学家还不清楚人类如何思考的当下，计算机科学界如何完成人工智能的研发这个问题，陆奇这样的回答可以说明问题。

“工程学届有一个想法，认为就算人类知道鸟儿如何飞翔，但发明飞机也不是对鸟的模仿。”他说，计算机工程学可以建立一个系统，模仿人类学习知识，产生行为的过程，就是人工智能。

换句话说，现在的人工智能还只是对智能行为的模仿。如果用一个人来作比方，弱人工智能注重行为，也就是你和他说一句话，他回答了，那么智能行为成立。但如果要开发一个通用人工智能，这个“人”即使在你不对话的时候也会思考，就像你我躺在床上冥想一样，这时候即使不说话，你的智能依然存在。

总的来说，通用人工智能还是距离现在比较遥远的东西。至于更高级的超级人工智能，我们只能从人类的基础上加以幻想：你下一道命令，说“预测一下战争的走向”，接下来这个 AI 从互联网上检索内容，分析将领的性格，新闻的趋势，经济情势的变化，历史上类似战例的结果，最后在一秒内得出一个报告。这大概可以算是超级人工智能。

研究缓慢也是反对者认为马斯克们想多了的原因。毕竟，现在硅谷还只是造出更多更快更好用的“工具”，看上去并没有更接近“智能”。

马斯克们目前的倡议是建立一个系统来评估智能程度，同时真的针对人工智能灾难进行技术预案，同时建立一个类似“机器人三定律”的规则来规定人工智能的行为。监管介入在这里也是必不可少的。

在预防人工智能作恶这件事上，马斯克们有些事没有说出来

OpenAI 吸引投资、拉小公司入伙。在呼吁监管、预防人工智能威胁意外，它们做的另一件事情是集合小公司的力量，在 AI 的研发上缩短和大公司的距离。

从最初的参与者就能看出来。

OpenAI 有一个高尚的使命，防范人工智能研发走偏。但全球最大的五个科技公司，苹果、Google、Facebook 没有一个参与其中。

微软和亚马逊出现在支持者名单里，只是因为它们的云计算平台被用于 OpenAI 参与者的计算。

这五个公司各自拥有超过十亿用户，掌握海量数据，并且都组建了至少数百人的团队研发人工智能。

而 OpenAI 参与者都是对人工智能研发有诉求，但相对这些巨头，又相对缺少数据和资本的公司。

马斯克的特斯拉汽车，最重要的卖点就是自动驾驶 图片来源：The Daily Beast

伊隆·马斯克自己的公司特斯拉重点放在自动驾驶上面，人工智能是非常依赖的未来。

奥尔特曼作为孵化器 YC 的老板，旗下孵化了数十家市值规模在几十、几百亿不等的创业公司，其中有众多人工智能项目，比如聊天机器人 msg.ai，开源的深度学习算法 Skymind。

另两位参与者，LinkedIn CEO 霍夫曼和彼得·蒂尔都是著名的投资人。尤其是蒂尔，他自己的创业公司 Palantir 是一家和大数据以及人工智能相关的数据公司，主要业务是帮助政府执法机构分析潜在威胁等等。而且作为 Deepmind 的早期投资人，也就是开发AlphaGO，后来被 Google 收购的那家公司，他拥有的股份超过 25%，甚至远远超过了创始人哈萨比斯。

风险投资机构 Andreessen Horowitz 曾说，在人工智能等前沿领域，大公司拥有的资源可以让他们吸引更多的研究者，比如 Google、Facebook、亚马逊、微软，甚至后来的苹果。对于现在的人工智能研究者来说，用来训练人工智能的数据非常宝贵而稀有，小公司联合起来能缩短和大公司的差距。

没什么比一个非盈利的开放联盟更适合一起分享数据。

他们可能确实担心有一天人工智能毁灭世界。但像平常一样，商业领袖们站队也都没有违背公司的利益