霍金忧人工智能恐导致人类文明终结

2017全球移动互联网大会（GMIC）4月27日在北京举行。著名物理学家斯蒂芬?霍金通过视频发表演讲。他表示，人工智能的崛起可能是人类文明的终结。

霍金认为，人工智能的崛起是人类历史上最好的事情，也有可能是最糟糕的，但它是最好的还是最坏的，现在还不能确定。

人工智能的研究与开发正在迅速推进。生物大脑可以达到的和计算机可以达到的，没有本质区别。因此，它遵循了“计算机在理论上可以模仿人类智能，然后超越”这一原则。

现在更需要关注的是，包括人工智能的研究人员也在担心和探索人工智能的伦理问题。拿机器人来说，我们需要在未来确保机器人一直都会为人类工作。未来可能机器人会需要人格化的身份，就像今天的独立法人，为了确保人类可以控制机器人，研究和设计人员都应该确保每个机器人都有终止开关。

在人工智能从原始形态不断发展，并被证明非常有用的同时，霍金也在担忧创造一个可以等同或超越人类的事物所导致的结果：人工智能一旦脱离束缚，以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代。这将给经济带来极大的破坏。

目前人们广泛认同，人工智能的研究正在稳步发展，而它对社会的影响很可能扩大，潜在的好处是巨大的，既然文明所产生的一切，都是人类智能的产物；我们无法预测我们可能取得什么成果，当这种智能是被人工智能工具放大过的。但是，正如我说过的，根除疾病和贫穷并不是完全不可能，由于人工智能的巨大潜力，研究如何（从人工智能）获益并规避风险是非常重要的。

霍金在演讲中多次提到“担忧”，他表示，人工智能也有可能是人类文明史的终结，除非我们学会如何避免危险。

霍金说，我们还应该扮演一个角色，确保下一代不仅仅有机会还要有决心，在早期阶段充分参与科学研究，以便他们继续发挥潜力，帮助人类创造一个更加美好的的世界。