AI时代 百度安全构建人类文明生态安全工程

2018-01-18 09:12:56 来源:赛迪网 热度:
AI可能是人类文明史上最重要的事件,它要么是一件最好的事,要么是最糟的。”物理学家斯蒂芬·霍金这句听起来模棱两可的话里隐藏着一个事实信息——我们对AI的未来充满未知。人们一面对AI时代的生活有着种种美好设想,一面又出于对未知的恐惧对AI的发展做着最坏的打算。恰如狄更斯的名句:“这是最好的时代,也是最坏的时代。”

一面是海水一面是火焰

未来已来,而你却不是未来的一部分,那会怎样?我们不妨将这个问题延展开来,“AI带来的安全挑战已经摆在面前,而我们手中却没有应对的武器,那会怎样?”

一面是海水一面是火焰。面对新的时代更迭,与阿里在金融和电商场景,腾讯在微信社交,金融的丰富数据不同的是,百度搜索涵盖的是用户的金融,电商,游戏,生活等各种要求,数据类型最为全面,用户画像更加精准。对于AI,百度的方向更为明确。目前,AI技术几乎已经贯穿至百度旗下所有业务,从无人驾驶到语音搜索,从IOT安全到全球视野下的黑产全链,“All in AI”的百度显然比任何企业都更清楚AI意味着什么。如果无法保证AI的安全性,后果难以想象。

事实上,如果我们无法建立其可靠的AI安全生态体系,可能遭遇一场噩梦的又何止于企业呢?对我们每个普通人而言,AI时代的梦想与梦魇仅有一墙之隔。

梦想与梦魇仅一墙之隔

人类的天性似乎是乐观的,否则便无法解释人们在面对AI这一充满不确定性的技术时还能够满怀憧憬的做出种种美好设想。人们迫不及待的想要坐上无人驾驶的汽车,想要用机器人将自己从大量的重复劳动中解脱出来,甚至试图以将记忆存储至芯片的方式获得某种意义上的永生。但在科技公司致力于使用AI技术改善人类生活的同时,在没有阳光的黑暗里,一些不法分子正把AI当做作恶的工具。

在去年11月举办的GeekPwn极棒破解大会现场,百度安全实验室的研究员只用一张打印的A4纸晃了晃,就成功破解了某安卓智能手机的人脸识别认证系统,虹膜和指纹也相继被破解。试想,如果这套破解技术和方式掌握在不法分子手中,结果会怎样?腾讯安全科恩实验室也曾多次在无物理接触的环境下破解无人驾驶汽车特斯拉,这项技术如果掌握在黑客手中,后果也不堪设想。

技术是中立无罪的,但人类的善与恶却在技术身上得到体现。AI承载着人类的美好梦想,但也可能成为作恶的工具,带来不可挽回的梦魇。梦想与梦魇之间仅有一墙之隔。

去年11月6日,百度安全牵头成立AI智能终端安全生态联盟,这是国内第一个开放的致力于AI生态安全的联盟组织。AI时代的来临,企业遇到的安全问题是系统性的,这要求安全生态的各个环节不能像过去一样彼此孤立存在。百度安全明确表示:“安全生态的碎片化导致安全成本急剧上升,需要安全生态各个环节协力合作。”在百度牵头成立的AI全生态联盟中,终端厂商、高校专家、科研机构甚至存在竞争关系安全厂商,都在联盟成员的范围内,这种开放程度是史无前例的。

从竞争思维走向开放思维,这是一次有着标志性意义的思维模式转变。而促成这种转变的是大家共同面对的问题——AI安全。就仿佛科幻小说中,当人类在遭受外星文明的攻击时便会自然而然地放下国与国、人与人间的利益争夺,结成命运共同体。因为所有人都清楚,这事关人类的文明。而AI之于人类显然也是两种文明的碰撞。

AI时代的人类文明工程

漫长的人类历史中有过许多改变人类文明进程的工程,万里长城促进了民族、经济与文化的融合,巴拿马大运河架起连接大西洋和太平洋的“世界桥梁”,阿波罗登月计划让人类对宇宙以及我们自身有了全新的认识......正是有了这些伟大的工程才有了今天的人类文明,而今天,正如霍金所言,AI可能是人类文明史最重要的事件,它有可能将人类带入全新的文明,也有可能让人类文明毁于一旦。

将视野放到人类文明的高度来看,AI安全生态建设正是AI时代一项重要的文明工程,这项工程很大程度上决定着人类的未来。因为,唯有搭建起AI安全生态才能最大限度降低由AI带来的安全风险,反之,不可控的风险将会对人类文明带来毁灭性的打击。

科幻作家刘慈欣在《三体》中创造一个概念叫“降维攻击”,高维度的AI文明是否会对人类文明发起降维攻击,目前还是个未知数,但并不能排除这种可能性。在AI面前,人类是命运的共同体。今天我们之所以能够神情自若地探讨AI安全生态的问题,原因是AI给了我们讨论这一问题的时间和机会,我们应该庆幸还拥有充足的预案时间。

资源的争夺和竞争曾经推动了人类文明的进程,但在新的文明之下人类是时候放下竞争结成联盟了。AI安全生态是一个庞大的系统化的工程,任何企业和个体都不可能凭借一己之力完成,这也是百度AI生态安全联盟等安全联盟和组织成立的价值所在。

AI时代究竟是一个最好的时代,还是最坏的时代,我们无法给出准确答案,但值得庆幸的是我们在做了最坏打算的同时也已经开始为最好做出努力。1月19日,百度安全将举办一场聚焦AI安全的BSRC年度盛典,这场盛典也是目前国内规模最大的“白帽子”碰头,AI会不会往霍金所担忧的方向发展?在这场盛典上,我们或许能找到一个答案。

责任编辑:吴礼得