问：
为什么有些人担心人工智能？
A：改变并不容易，许多人很难适应。 技术变革尤其如此。 著名的哈佛大学教授Calestous Juma写了一本书，题为“创新及其敌人：为什么人们抵制新技术。”该书概述了创新与社会秩序之间的张力，借鉴了600多年的历史。 当涉及到人工智能时，技术的影响尤其麻烦。
并非每个人都对这些进步不利。 雷·库兹韦尔（Ray Kurzweil）是《奇点即将来临》和《精神机器时代》的作者，无非是宣传遗传学，纳米技术和机器人技术（用于非生物智能的术语）的福音传教士。 但是这些都是同样的问题，而库兹韦尔是同一个人，在2000年引起了Sun Microsystems首席科学家Bill Joy的极大关注。
乔伊（Joy）在《连线》（Wired）杂志上一篇著名的文章中写道，他的忧虑是“为什么未来不需要我们”。他相信人类的未来正处于危险之中。 在谈到进化史的竞争时，乔伊写道：“生物物种几乎永远无法在与优秀竞争者的相遇中生存。”导致机器超越人类的科学突破面临巨大风险。 想到反乌托邦的未来。
假设科学家能够开发出具有人工超智能（ASI）的机器，其人工智能水平高于人类。 乔伊说，可能会发生以下两种情况之一：要么允许机器做出自己的决定，要么人类将保持对它们的控制权。 如果您将电源移交给机器，会发生什么？ 结果可能是什么？
比尔·乔伊（Bill Joy）并不是唯一一个表达担忧的人。 科技大师埃隆·马斯克（Elon Musk）说：“有了人工智能，我们就召唤了这个恶魔。”他称这是“我们最大的生存威胁。”物理学家斯蒂芬·霍金（Stephen Hawking）在一次技术会议上对与会者说：“我们不知道我们是否会得到AI的无限帮助，他对《连线》杂志说：“我担心AI可能会完全取代人类。”
这些恐惧合理吗？ 像《超越》这样的科幻电影，让约翰尼·德普（Johnny Depp）的角色与人工智能联系在一起并造成严重破坏，这让人想起库兹韦尔（Kurzweil）关于人类如何与机器融合的预言。 关于人工智能可能出错的所有方式的想象力都是疯狂的。 当机器控制时会发生什么？
两个真实的例子说明了对人工智能的担忧可能是可以理解的。 2007年，一门自动加农炮炸死9人，炸伤14人。一些先进的军事武器会自动瞄准目标，但要等着人类拉动扳机。 谁在这里做决定？ 2016年，一台300磅重的安全机器人撞倒了一个16个月大的小孩。 在这种情况下，谁在控制谁：人还是机器？
有些人担心人工智能的原因是风险是真实的。 下一个问题：我们将如何应对这些风险？
