人工智能发展需审思，让技术等一等人类的灵魂

出席会议的专家们普遍认为，人工智能研究和应用的各个结构性层面，有众多问题需要技术专家与人文学者一起来探讨和解决。人工智能与人文学这一次历史性的互动和嵌合，对于双方的发展而言都是一种历史的机遇。

而笔者对这里的“发展”的理解是，它不只是指向更先进的技术、更快的迭代速度等，也是一个让人类停下来等一等伦理重建的问题。正如一位与会者所言，人工智能作为一种历史性的技术进步，它的“仿人类性”特征，使得它从一开始就不可避免地面临了如何跨越人文价值种种界面的挑战。

早在1978年9月，日本一家工厂的切割机器人突然“发疯”，把正在值班的工人当成钢板切割了，这是历史上首起机器人杀人事件。自那以后，人们就开始不断想象机器人失控的可能性。好莱坞大片《终结者》系列中，人类研制的高级计算机控制系统“天网”有了自己的意志，将人类视为仇敌，剥夺了数以亿计的生命，就可以视为这方面的一种巅峰想象。

不久前，一则有关人工智能的消息引起了很多人的关注——韩国科学技术院(KAIST)研发“杀手机器人”的计划遭到了多国人工智能(AI)及机器人工学的专家联合抵制。在强大的压力之下，KAIST随后不得不宣布取消“杀手机器人”计划。

其实，2015年，人工智能领域的1000多名专家就联合发表一封公开信，呼吁在世界范围内禁止“杀手机器人”。当时还在世的著名科学家斯蒂芬·霍金，以及特斯拉首席执行官埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克都在这封信上签了名。联合国也曾耗时两年完成了机器人伦理报告。

事实上，人工智能所面临的科学伦理问题不只是机器可能失控而对人类构成威胁，随着它与人类生活的深度重合，随着机器人与人类的界限变得日益模糊，许多隐藏的伦理问题都会逐渐暴露出来。

比如，人类能不能和机器人谈恋爱?如果机器人能够与人类互通心意，如何防止机器人深入个人生活、威胁人类隐私?多年前，有一道高考作文题叫《假如记忆可以移植》， 如果有一天，与人类身份界限打破了的、具有人类记忆的人工智能能够进行记忆移植，该如何避免伦理的混乱与失控?

一种普遍性共识是，无论技术如何发展，机器不能被赋予人的道德地位并且继承人的尊严。近年来，多国科学家一直在呼吁，人们需要通过新的管理和监管手段，为人工智能、机器人和“自主”系统的设计、生产、使用和治理，建立一个通用的、国际公认的道德和法律框架。同样，我们也需要在人文价值层面、科学伦理层面，建立对人工智能发展的必要审思，学会让技术等一等人类的灵魂。