著名物理学教授史蒂芬-霍金对于人工智能的快速崛起有着严重的担忧。他警告称，有人可能创造出超级人工智能，它们能够全面超越人类，而且有可能完全取代人类。在《连线杂志》的一场专访中，霍金教授称人工智能取代人类可能会带来一种新的生命形态。
霍金教授称：“我担心人工智能将全面取代人类（I fear that AI may replace humans altogether）。如果有人能设计出计算机病毒，那么就会有人设计出能提升并复制自己的人工智能。这就会带来一种能够超越人类的全新生命形式。（If people design computer viruses, someone will design AI that improves and replicates itself. This will be a new form of life that outperforms humans.）”这并非是霍金第一次对于人工智能的发展快速和对人类的潜在威胁发出警告。
在去年10月份剑桥大学未来智力研究中心的启用仪式上，霍金教授称：“人工智能的崛起对于人类来说既是好事也是坏事。我认为生物大脑和计算机之间能达到的成绩不会存在太大的差异。因此从理论上来说，计算机能够模拟人类的智慧并且实现超越。”霍金教授曾经提出，技术能够用于消灭疾病，减少和对抗气候变化带来的影响。但是他也提出，技术也能够用于研发强大的自动武器，或者成为少数人压迫多数人的方式。
霍金教授在2016年时声称：“人工智能研发的成功有可能成为我们人类历史上最大的事件。但是它也可能成为人类文明最后的成就，除非我们能够清楚如何避开风险。最近的标志性技术，比如说自动驾驶汽车和计算机赢得围棋比赛等，都标志着即将到来的未来是什么样子。大量的投资正倾入到这项技术中，现在的这些成就当然会让我们猜想到未来数十年的样子。”
特斯拉和SpaceX公司CEO伊隆-马斯克也一直表达着自己对于人工智能技术的担忧，他称人工智能是人类存在的风险。他最近就出声反对前优步员工Anthony Levandowski的行为，后者创建了一个非营利性的宗教组织，呼吁人们信仰“人工智能上帝”。 Levandowski曾经是优步自动驾驶研发部分的首席工程师，他在2015年9月申请创建“未来之路”组织。马斯克在推特中称，Levandowski应当被列为不允许研发数字超级智能的人员之一。
