当地时间9月13日,马斯克在自己的个人推特账号上转推了一篇名为《Hackers Have Already Started to Weaponize Artificial Intelligence》(编译:黑客们已经开始武器化人工智能)的文章。
在这篇文章的开头,提到了去年的一个实验。当时,来自安全公司ZeroFOX的两位数据科学家进行了一次实验,他们希望看看人类和人工智能相比,究竟谁更容易让推特用户点击恶意链接。于是,研究人员让人工智能研究社交网络用户的行为,然后设计并实施自己的网络钓鱼诱饵。从测试结果,人工智能程序比人类要领先很多。
这个名为SNAP_R的人工智能,以每分钟6.75条推特的速度向800多名用户发送了恶意链接,最后成功让275位用户上当受骗。相比之下,参加实验的人员每分钟只能推出1.075条推文,最后做了129次尝试,吸引了49位用户。
幸运的是,这只是一个实验,但实验表明,黑客已经能够使用人工智能来进行恶意攻击。事实上,他们可能已经在使用了,只是很难证明。
马斯克担心的人工智能威胁论还在程序员队伍里找到了印证。今年7月份,在黑帽安全技术大会(Black Hat Conference)上,数百名领先的网络安全专家聚集在拉斯维加斯,他们已经开始讨论人工智能和新技术带来的隐患。在一项调查中,被问及在未来一年内黑客是否会使用人工智能进行攻击,62%的与会受访者给出了肯定的答案。
Cylance安全数据公司科学家Brian Wallace更是在这篇文章中指出说:“黑客一直在使用人工智能作为武器。这是非常现实,因为黑客需要解决规模问题,他们试图尽可能多的攻击更多的目标,同时尽量减少对自己的风险。那人工智能和机器学习就是他们最终使用的完美工具。这些工具可以决定要攻击的人、攻击者、何时攻击等等。”
这个结果也与马斯克所担心的不谋而合。就在9月初,马斯克就在推特上提到过,“战争可能不是由国家的领导人发动,而是由人工智能发动——只要它认为先发制人的打击是取得胜利最为有效的方式。”
此外,就在上个月,马斯克联合上百名人工智能行业的高管向联合国建言:禁止发展致命性自主武器,阻止高科技军备竞赛。
包括马斯克、谷歌DeepMind创始人Mustafa Suleyman、丹麦Universal Robotics创始人等共计116人在公开信上签名,敦促联合国阐明致命性自主武器,即“杀手机器人”带来的挑战,并且在全球范围内禁止使用这类武器。