失误集锦：2017人工智能领域的那些事儿

今年，人工智能项目AlphaGo和Libratus分别击败了人类玩家的最优秀的围棋选手和扑克玩家。虽然这些里程碑表明了近几年人工智能的发展程度，但许多人对新兴技术的整体成熟度持怀疑态度，尤其是在过去12个月中出现的一些有关人工智能的小失误。

被面具破解的人脸识别

　　

面部识别技术(Face ID)是解锁新型iPhone X的面部识别技术，被誉为迄今为止最安全的人工智能激活方法，苹果公司宣称其被愚弄的几率为百万分之一。但随后越南公司BKAV使用由3D打印的塑料、硅胶、化妆品和镂空构成的150美元面膜实现了破解。 Bkav只是扫描一个测试对象的脸部，使用3D打印机生成一个脸部模型，并贴上剪纸眼睛和嘴巴和硅胶鼻子。这一破解给整个行业带来了冲击波，加大了消费者设备隐私的风险，更普遍的利用了人工智能的安全。

邻居们由于Amazon Echo报警

流行的Amazon Echo被认为是强大的智能扬声器之一。但没有什么是完美的，一名德国男子的Echo在他不在家的时候被意外激活，并在午夜后开始响起，吵醒邻居，导致他们打电话给警察，警察不得不破门而入，甚至在主人回来之前把门锁换掉了。

Facebook chatbot关闭

　　

今年七月，有大批量的报道称有两个Facebook聊天机器人以人类无法识别的语言相互沟通后被关闭。关于新的秘密超级智能语言的谣言淹没了论坛等讨论区，直到Facebook解释表示，这种神秘的交流只是语法编码疏忽的结果。

拉斯维加斯自驾驶巴士在第一天上路就出车祸

一辆自驾巴士于今年十一月在拉斯维加斯首次亮相。然而，在短短的两个小时内，巴士就被一辆货车撞上了。尽管从技术上来说，它并没有对这起事故负责，但是这辆智能巴士上的乘客抱怨道，当卡车慢慢靠近的时候，它不够智能，无法自行摆脱危险。

Google Allo使用头巾表情符号来回应枪支表情

　　

美国有线电视新闻网的工作人员通过Google Allo收到了一个戴头巾的人的文字表情建议。这是由于包含手枪的表情符号引发的。Google向公众保证，它已经解决了这个问题，并发表道歉。

双胞胎骗汇丰语音识别系统

汇丰银行的语音识别ID是一个以人工智能为导向的安全系统，允许用户通过语音命令访问他们的账户。虽然该公司声称它和指纹ID一样安全，但是BBC的一名记者的双胞胎兄弟能够通过模仿他的声音来访问他的账户。实验花了七次尝试才成功，据此，汇丰即时的解决办法是规定三次尝试失败就锁定账户的门槛。

Google AI看着步枪，误判为直升机

　　

通过略微调整步枪照片，麻省理工学院的一个研究小组欺骗了Google Cloud Vision API，使其误认为直升机。这个不良样本，会导致计算机通过引入人眼无法察觉的修改来对图像进行错误分类。在过去，只有黑客知道目标计算机系统的基本机制，敌对的例子才会起作用。麻省理工学院团队在没有获得这些系统信息的情况下，通过触发错误分类而向前迈进了一步。

“黑”掉自动驾驶汽车 只要给路标画个大花脸

　　

研究人员发现，通过使用油漆或胶带的谨慎应用来阻止信号，他们可以欺骗自动驾驶的汽车，把这些标志进行误分类。用“爱”和“憎恨”这两个词修饰的停车标志，欺骗了一辆自驾车的机器学习系统，大部分的时候都会被误认为是限速45英里/小时。

用AI给油漆颜色取名

机器学习研究员Janelle Shan训练了一个神经网络，处理大约7700种油漆颜色，以及其对应的红绿蓝值。经过几个小时的训练，神经网络成功地找到了“绿色”和“灰色”这两个词，但除此之外就没别的了。训练神经网络需要时间。在多次迭代中，Shane训练的神经网络变得越来越好，它已经能够找出像棕色和蓝色这样的真实颜色，以及这些颜色对应的红绿蓝值。接着她发现神经网络是具有创造力的，它开始产生“草球棒”、“浅褐色”和“毒品”等颜色。