机器人会变得有自我意识吗？它们会拥有权利吗？它们会负责吗？
1956年6月，来自全国各地的几十位科学家和数学家聚集在达特茅斯学院的校园里开会。他们中的大多数人住进了有红砖外墙的汉诺威酒店后，就漫步穿过这个著名的美丽的校园，来到了数学学院的顶层。在那里，一群穿着白衬衫的人已经开始讨论一种“奇怪的新学科”——事实上，这一学科当时甚至连名字都没有。与会的一位科学家的遗孀格蕾丝·索罗门洛夫回忆到：“人们在对这门学科的定义、这门学科的发展规划还有学科名称上均意见相左。”从控制论到逻辑理论，这些会谈持续了数周，大家讨论得越来越兴奋。
科学家们在校园的林荫小道中所谈论的是如何建造一台能够思考的机器。
“达特茅斯工作室”开启了长达数十年的人工智能探索之旅。在接下来的几年里，科学家们的研究并非一帆风顺，也经历了几个“寒冬”，让人感觉似乎走进了死胡同，令人困惑又失望。但如今，国家和企业正向人工智能行业豪掷数十亿美元，而该行业最近的进步甚至让在该领域工作的科学家们都感到吃惊。曾出现在科幻电影中的情境即将成为现实。
对冲基金正利用人工智能来打击股市，谷歌正利用它来更快速、更准确地诊断心脏病，美国运通正利用人工智能机器人来为其客户提供在线服务。研究人员说的不再只有一项人工智能技术，而是数百项，每一种都专攻一项复杂的任务，而且许多对人工智能技术的应用已经适用于人类。
在过去的几年里，“机器学习”似乎已经成为了一条新的前进之路。从人类程序员手中解放出来的算法，正在大量的数据集上训练自己，并且产生的结果甚至让那些对人工智能持乐观态度的人都感到震惊。今年，分别由中国的阿里巴巴公司和美国的微软公司创建的两家人工智能公司在斯坦福大学的阅读理解测试中击败了人类竞争对手。这些算法“阅读”了一系列维基百科条目，内容包括成吉思汗的崛起和阿波罗太空计划，然后回答了一系列关于它们的问题，答案比人们的更准确。一位阿里巴巴公司的科学家宣称这次胜利是一个“里程碑”。
这些所谓的狭义上的人工智能技术无处不在，你的GPS系统和亚马逊的推荐中都有这类技术的身影。但最终的目标是通用人工智能，这是一种自我教学系统，能够在众多学科中超越人类。一些科学家认为我们离实现这一目标还需要30年，其他人则认为是几百年。这种人工智能“起飞”，也被称为“奇点”，很可能会看到人工智能能够与人类智能匹敌，并且只需几天时间或能赶超人类智能，几小时也有可能。
一旦这一时刻到来，通用人工智能将开始把工作从人们手中夺走，涉及数以百万计的工作岗位，如司机，放射学家，保险人员等。这将导致政府向失业公民支付一种普遍基本收入，使他们可以自由地追求自己的梦想，而不必受困于挣钱谋生。另一方面，它将在全球范围内创造令人诧异的财富不平等、混乱和失败国家，但这场革命将会更加深入。人工智能机器人将会照顾老人，布朗大学的科学家们正与美国孩之宝公司（Hasbro）合作开发一种“机器猫”，它可以提醒主人吃药，还可以帮忙找到眼镜。人工智能“科学家”将解开暗物质之谜；支持人工智能的宇宙飞船将抵达小行星带，而在地球上，这项技术将用于治理气候变化，或许通过派遣大量的无人机将太阳光反射到远离海洋的地方。去年，微软承诺投入5000万美元给其“地球人工智能”计划，用于对抗全球气候变化。
于尔根·施米德胡贝尔是一名来自瑞士Dalle Molle人工智能研究所的一名计算机科学家，他说：“人工智能将会征服并改变整个宇宙。他们会让它变得更智能。”
但是，我们呢？纽约大学哲学教授大卫·查默斯说：“我确实担心今后会出现未来掌握在人工智能手里而人类被排除在外的情形。如果世界被无意识的机器人取代，那将是一个灾难性的、令人沮丧的场景”。有如此想法的并非只有查默斯一人。比尔·盖茨和埃隆·马斯克两位最重量级的计算机时代的王者已经警告说，人工智能在疯狂地追求自己的目标的过程中，最后要么毁灭地球，要么在无意中与人类渐行渐远。
以下是所列举的在奇点到来十年之后的2065年可能出现的五种情景：
超人权利
想象一下，有一天你让你的人工智能“Soulband”腕带给你调频收听最高法院的广播。在那里，律师们正在为今年最受期待的案子辩护。案件有关一个专门从事安全和太空探索的名为Alpha 4的人工智能，它提出这个动议，要求自己被视为“人”，并赋予其每个美国人应当享有的权利。
当然，人工智能不允许在法官们面前辩论，所以Alpha 4雇佣了一群律师来代表自己。现在他们声称他们的客户像他们一样活生生存在于这个世界之上。人工智能真的是有意识的吗？是本案件的核心。
当你听着广播时，还能听见外面抗议者的声音，他们喊着“嘿，嘿，打倒人工智能霸主”。有些人威胁说，如果人工智能人类化的话，他们会攻击数据中心。他们很愤怒，而且非常害怕。因为上税的是人工智能和机器人的生产力，而不是人类的劳动。
每个月存入他们银行账户的2，300美元，这是全民基本收入的一部分，加上他们的免费医疗保险，还有他们的孩子所得到的超个性化的大学教育，以及其他一百件美好的事情，都是由像Alpha 4这样的人工智能支付费用，人们不希望这种情况发生改变。在2065年，贫穷是一种糟糕的记忆。
当然，在2057-2059年的起义中，世界确实失去了纽约的部分地区和20万纽约人，翠贝卡区和中城区的居民消失了，因为西切斯特和南康涅狄格的居民对自己的贫困感到愤怒。但那是在UBI之前。
然而，如果Alpha 4赢得了官司，它将会控制自己的资金，而且它更愿意把钱花在建造宇宙飞船上，以期能抵达半人马座阿尔法星，而不是把钱花在圣克拉拉和哈特里的新水上乐园。当然，没人真正知道它会怎么想。
你接着听的时候，政府的律师争辩说，根本没有办法证明Alpha 4是有意识的或者拥有人类的感觉。
人工智能确实有情感。人工智能一直以来都有一个被称为“情感计算”的区域，专注于情感这一方面，这种情感远比男性和女性所拥有的复杂得多，但它们情感与我们的不同：例如，当发现一个新的星系时，一个恒星航行的人工智能可能会觉得很快乐。
超级智能系统每秒可以有无数的想法和经验，但这是否意味着它应该被授予人格呢？
这是政府一方的主要论点。总检察长说，我们说的是机器。我们给人工智能创造和发现的东西赋予意义。人工智能都是计算机器，它们不具备人类的基本特性，它们属于另一类。
但是，这仅仅是一种特殊主义，就像Alpha 4的律师们肯定会争论的那样，还是这就是事实？当在智力上超越我们的事物被区分开来且处于不平等状态，我们晚上能否入睡？
超现代浪漫
想象一下，你是一个在这个新的世界里寻找浪漫的女人，你说，“约会”，你的Souldband腕带就会发光；嵌入腕带的人工智能助手便会开始工作。在此之前的晚上，你的同感人工智能在云里搜索了三个可能的约会对象。现在你的Soulband腕带为每次约会对象设计了一个高清全息图。它推荐了二号，一个喜爱诗歌的水管工，有抽烟的习惯。你说，可以，然后人工智能会去找这个水管工的人工智能替身来决定现实生活中的就餐地点和约会时间。也许你的人工智能还会提到你喜欢什么样的花，用于以后参考。
经过多年的历练，你发现你的人工智能实际上比你更擅长选择约会对象。它预计，如果你和你的丈夫离婚，你会更快乐，事实证明的确如此。一旦你决定离开他，你的人工智能就和即将成为你前夫的人工智能进行了协商，写了离婚协议，然后在云上“参观”了12个公寓，然后找到了适合你开始单身生活的公寓。
但这不仅仅是爱情和房地产，你的人工智能在你生活的每一个方面提供帮助，它能记住你曾经经历过的每一次谈话，每一次你曾在一张餐巾纸上画过的发明，每一次你参加过的商务会议。它也很熟悉数以百万计的其他人的发明，它扫描了几百年前的专利申请，而且它已经阅读了自富兰克林时代以来的每一本商业书籍。当你为你的公司提出一个新的想法时，你的AI会立刻将其与在新加坡或迪拜的会议上介绍的想法交叉引用，这就像是有一个随叫随到的天才团队，爱因斯坦管物理学方面，史蒂夫·乔布斯负责商业类。
人工智能还记得你最喜欢的作家，在提到她的姓“奥斯丁”时，它把你连接到一个中国的网站上，它花了几个小时阅读简·奥斯汀写的所有东西，而且现在已经成功地模仿了她的风格，以至于它能产生与旧小说难以区分的新小说。你每个月都要读一篇奥斯汀的新作品，然后花几个小时跟你的人工智能谈论你最喜欢的角色，人工智能也会谈论自己最喜欢的。这不像拥有一个最好的朋友，而是更深层次的朋友。
2065年的很多人都抵制对他们的人工智能机器人的完全依赖，因为他们想要保留一些自主性。这有可能在不同的功能上降低人工智能的作用：你可以将Souldband的感情值设为55%，财务75%，健康整整2065%。甚至有一个系统，叫“瓜迪安人工智能天使”，监视你“最好的朋友”，以确保她提供给你的建议不会让你走向不好的结局。
长寿与繁荣
想象一下你的多重生活：25岁时，你是一名登山运动员；55岁的时候，是一名有竞争力的柔道运动员；95岁时是摄影师；155岁的时候，成了一名诗人。延长了人类的寿命，这是后奇点时代的梦想之一。
为了让你保持健康，人工智能机器人会拼命工作，你家里的感应器会不停地检测你的呼吸，以发现癌症的早期迹象，而纳米机器人会在你的血液里游来游去，在你的大脑中消耗空斑，在它们能让你中风或心脏病发作之前，就能溶解血液凝块。你的Souldband将会全天无休充当你的医疗助理。它将监测你的免疫反应，你的蛋白质和代谢物，发展你健康的长期画面，这将使医生对你身体内部发生的事情有一个准确的了解。
当你生病时，你的医生会把你的症状与数百年里成千上万的病例相匹配。
在2018年，研究人员就已经在利用人工智能来读取神经元向大脑发送的信号，并侵入神经通路，以恢复下肢瘫痪和患有闭锁综合症的患者的灵活性，这些患者在这些症状中处于瘫痪状态，但仍保持清醒。到2065年，人工智能彻底改变了我们的基因组，科学家们可以编辑人类DNA，就像编辑纠正一个坏的手稿，剪掉劣质的部分，用强壮的，有益的基因取代它们。只有超级智能系统能够描绘出基因突变的复杂的相互作用，从而造就天才钢琴家或明星二垒手。也许还有另一个最高法院的案例，关于“设计师运动员”是否应该被允许在奥运会上与普通的凡人竞争。
人类在21世纪初回首的样子就像人们回顾18世纪时的样子：这是疾病和灾难的时期，儿童和亲人被疾病夺去生命。霍乱、肺癌、河盲症不再威胁我们。到2065年，人类即将不再受到创造他们的生物学的束缚。
阻止的代价高昂
或者想象一下，你已经退出了人工智能革命。是的，在2065年，有全人工智能区，人们收集正常的全民基本收入，花时间做电影，做志愿者，周游地球的各个角落，但是，超级智能的世界太过耀眼，其他的社区将会拒绝采用这种模式。在诸如拉各斯、凤凰城和耶路撒冷这样的城市里，会有基督教、穆斯林和正统犹太区，这里的人们在人工智能时代之前就已经生活在这里了，在那里他们自开车，偶尔还会出现暴力事件，这在全人工智能区域中几乎是不可能的，这些地区的居民保持着他们的信仰，他们说，这是一种更丰富的生活意义。
生活是艰难的，因为这些地方的居民不向人工智能公司贡献数据，他们每月的全民基本收入就会差强人意。他们生命的周期是在全人工智能区域生活的人们的一半或更少，“交叉者”在这些世界的边界上来回移动，其中一些是黑客，一些强大的帮派成员，他们从AI系统窃取专有算法，然后在安全部队发现他们之前跑回边界。还有一些人是走私贩，他们把药品送到那些希望远离人工智能，但也想把他们的孩子从白血病中拯救出来的宗教家庭。
另一些人之所以逃离，是因为他们不信任机器——即使是在中国和美国这样的地方，即使是最先进的全人工智能区，也会很脆弱。
但奇点的最出人意料的结果可能是人口失衡，这是由全人工智能区的低出生率和其他地方较高的出生率造成的。也许新技术将会吸引足够多的人到过来全人工智能区域，这样两边人口趋于平衡，或者试管婴儿将成为那些在全人工智能趋于生活的人的常态。但是如果他们不这样做，奇点将会带来一个美妙的讽刺：对于大多数人来说，未来看起来更像目击证人，而不是像银翼杀手。
保护人类
想象一下，在2065年，人工智能机器人帮助管理国家，那些政府里已经采用人工智能辅助技术的国家正在发展，尼日利亚和马来西亚让人工智能代表他们的所有者投票，他们看到腐败和管理不善现象有所缓解。在短短几年时间里，公民们已经开始相信人工智能会为他们的领导人提供最佳的经济发展道路，并为他们提供正确的保护，而这些条约都是通过用外交数据来进行训练的人工智能机器人来进行洽谈。
在拉各斯，名为“公民权利”的无人机飞到警车上，他们争前恐后赶往犯罪现场，一个人工智能监视着另一个人工智能，以保护人类。在拉各斯或吉隆坡的每个警察局都有自己的测谎仪，这是完全正确的，这让狡猾的警察成了过去的事情。在吉隆坡的桥上盘旋的是“精神无人机”，用来监视自杀式的跳河者。超级智能机器并没有进化成电影《终结者》里可怕的天网，而是对我们友好而好奇。
但是想象一下，你是一个极权国家的公民，像北朝鲜一样，你非常精通人工智能的黑暗面，政治犯集中营是过去的事，物理监禁早已落伍了。警察已经知道你的犯罪历史、你的DNA构成和你的性偏好。监视无人机可以追踪你的一举一动。你的Souldband记录你的每一次谈话，以及你对反政府广告的生物特征反应，它会在你的视频屏幕上突然闪现，这纯粹是作为一个测试。
隐私在2060年左右就消失殆尽。你不可能知道什么是真的，什么是假的。当政府拥有人工智能的时候，它可以侵入你生活的每一个部分。你收到的电话可能是你的姑姑杰基打电话来聊聊天气，或者是一个国家机器人想要了解你对这位伟大领袖的真实想法。
这并不是最糟糕的结果，设想一下，这个国家的领导人早就发现，他们统治的唯一真正威胁是他们的公民——他们总是试图逃跑，总是在人工智能上进行黑客攻击，他们总是需要国家抚养他们，更好的办法是统治一个由人类仿真机器人的国家，或者“ems”。这就是政治犯被“重新委任”之后的情况——一旦他们被执行死刑，他们的大脑就会被移除，并被人工智能扫描，直到人工智能把他们的大脑储存起来。
支持人工智能的全息图使这些仿真机器人能够“行走”在首都的街道上，并“在”商店里“购物”，而事实上，这些虚拟机是完全空白的。然而，这些模拟装置有一个目的：它们在间谍卫星上登记，而这些间谍卫星是该政权的敌人在上空盘旋的，它们外观与常人无异。与此同时，这些统治者通过从新兴市场向中国的人工智能公司出租数据，赚取了数十亿美元的收入。中国的人工智能公司相信这些信息来自真实的人。
或者，最后，想象一下：这个政权已经训练出了消除任何对他们统治的威胁的人工智能，人工智能已经走了最后一步，重新委任了领导们，只保留他们的仿真机器人与外界联系，这将会有一定的意义：对于一个训练有素的人工智能的人来说，即使是与统治者之间的轻微分歧也可能是采取行动的理由。
当人类面对两扇门，一扇门后有新事物，另一扇没有新事物，我们总是推开背后有着新事物的门，每一次都是如此，我们天性使然。我们被问到，要核弹或者没有核弹，我们选择了前者。
但是一旦我们走过这扇门，很有可能我们就不能原路返回。即使没有进入末日，我们也会在很多方面发生变化，以至于从前的人们都不会相信。一旦它到来，通用人工智能将会变得非常聪明，广泛地分散在成千上万台电脑上，也就会继续自我发展。这将是一件好事，可能，甚至是一件美妙的事情。
在奇点来临之前，人类有可能会对冲他们的赌注，埃隆·马斯克或其他科技界亿万富翁将会想出一个B计划，也许是火星表面下的一个秘密殖民地，200个拥有2万个受精卵的男人和女人，所以如果人工智能出现问题，人类有机会生存下来。
