面对科技界一股前所未有的人工智能大潮，马斯克、盖茨等科技大佬坐不住了。2016年8月，马斯克在Twitter发布一条状态：Bostrom撰写的《超级智能》一书值得一读，我们必须对人工智能超级谨慎，它的潜力可能比核弹还危险。 比尔•盖茨 也在最近的一次活动上表示，机器将取代人类从事各种工作，如果我们能够处理得好，它们应该能发挥积极作用。可是数十年后，人工智能将发展到足以令人担忧的程度。
人工智能的隐患：或冲击现有社会体系

2月初，致力于降低人类面临的现存风险的生命未来研究所（Future of Life Institute）的数百名顶尖科学家在一封公开信中签名，公开信呼吁科技界在推动人工智能发展的同时，彻底审视人工智能的发展将对人类社会产生怎样的影响。
这封信的作者承认，人工智能在语音识别、图像分类、自动驾驶汽车、机器翻译和答疑系统等领域取得了显著成功，并认为这些研究有助于消灭疾病和贫困。但他们坚持认为，人工智能系统必须做我们希望它做的事情，科学界应确立 有助于最大限度提高人工智能社会效益的研究目标。
公开信强调，未来的人工智能可能在计算机安全、经济、法律和哲学等领域影响社会，但就是这种无处不在的潜在性，可以引发多方面的危机。例如，科学家们认为，如果未来经济的某些部分变得自动化，工人以及工人工资会受到很大影响，人工智能专家们不得不要重视。人工智能应该正视下列问题：致命的自动化武器是否符合人道主义法？ 当人工智能系统从监控摄像头、电话线路和电子邮件中收集数据时，如何避免侵犯隐私权？
来自英国牛津大学的一群学者去年在一篇博客文章中写道：当一台机器发生错误，其错误方式可能比人的失误更有戏剧性，可能会带来更多不可预知的结果。简单算法在很大程度上是可预测的，但在不寻常的情况下，它可能作出离奇的决定。

与这些比较现实的问题相比，知名科学家霍金想的更为长远。霍金在接受BBC采访时表示，如果技术具有与人类类似的能力，它将脱离控制，并以加速度重新设计自己。更可怕的是，由于生物学意义上的限制，人类无法赶上技术的发展速度。霍金对人类的未来表示担忧：人类由于受到缓慢的生物进化的限制，无法与机器竞争，并会被取代。全人工智能的发展可能导致人类的终结。
从这些科学家的言论中，我们可以看到，科技界、科学界对人工智能的担忧主要来自两方面：一方面是人工智能对人类工作、生活方式的改变，可能影响到现有的法律体系、道德标准以及利益分配的模式等等，而人类做出改变的速度未必能跟的上人工智能的发展速度，这就会对社会现有的体制造成冲击，从而引发混乱；另一方面是，人工智能让人类越来越缺乏思考，而其自身则有可能越来越聪明，从而威胁到人类的生存。
预言成真？毁灭论有些危言耸听

对于马斯克、盖茨、霍金等人的言论，谷歌董事长施密特率先发起反驳。施密特的身份很特殊，作为谷歌的董事长，他曾亲身参与许多世界上最复杂的人工智能系统的研发，从自动驾驶汽车到谷歌的预测性搜索引擎等，谷歌去年甚至还推出了自己的内部机器人实验室。施密特认为，所有对机器将抢走人类工作、占领世界的恐惧都毫无根据，并且希望人们能够意识到：机器人会成为我们的朋友。