2017年回顾：人工智能技术的10大“滑铁卢”

在即将过去的2017年里，人工智能表现强势，频频打脸人类，一度引发人们对此技术的恐慌。今天学院君给大家分享一篇文章，让大家回忆起关于“人工智障”的欢乐回忆。

今年，人工智能项目AlphaGo和Libratus分别在围棋和德州扑克上击败了当今世界上最优秀的人类选手。虽然这些里程碑显示了，近几年人工智能到底发展到了何种地步，但许多人对新兴技术的整体成熟度仍持怀疑态度 – 尤其是在过去12个月中 AI犯下的一些尴尬错误。

虽然笔者是机器智能的粉丝，但是不可否认，一些新技术在执行任务时表现非常挣扎，经常以人类料想不到的方式出错。一下是我们选择的，值得注意的10次AI严重失误。

1. 被面具解锁的Face ID

Face ID是用于解锁新型iPhone X的面部识别技术，被誉为迄今为止最安全的AI激活方法，苹果公司宣称被愚弄的几率为百万分之一。事实证明乱立flag果然不是什么好习惯。没过多久，越南公司BKAV使用由3D打印塑料、硅胶、化妆品和剪贴画构成的，成本为150美元的面具破解了Face ID。Bkav仅仅扫描了一个测试对象的脸部，使用3D打印机生成一个脸部模型，并贴上剪纸眼睛、嘴巴和硅胶鼻子。这一破解实验给整个行业带来了巨大冲击，加大了消费者设备隐私的风险，更广泛的说，是暴露了基于人工智能技术的系统的安全性问题。

2.邻居 警投诉Amazon Echo

最近广受欢迎的Amazon Echo被认为是最强大的智能扬声器之一。但没有什么是完美的。一名德国男子的Echo在不在家的时候被意外激活，并在午夜后开始播放音乐，吵醒邻居。于是他们打电话给警察，警方不得不打破前门以关闭搞事的扬声器。警方还更换了门锁，所以当这个人回来时，他发现自己进不了家门了。

3. Facebook 聊天机器人被强行关闭

今年七月，广泛 道说两个Facebook聊天机器人以无法识别的语言相互沟通后被关闭。关于新的秘密超级智能语言的谣言淹没了讨论区，直到Facebook解释说，这种神秘的交流只是语法编码监督的结果。

4. 拉斯维加斯无人驾驶公交车上路第一天就出车祸

一辆无人驾驶公交车今年十一月在拉斯维加斯首次亮相，当时常驻当地的名流，如魔术师佩恩 – 泰勒（Penn＆Teller）等纷纷排队等候。然而在短短的两个小时内，公交车就与一辆货车撞上了。尽管从技术上来说，公交车并不需要对这起事故负责 – 而警方则传讯了送货卡车司机 – 但是这辆智能公交上的乘客仍抱怨道，当卡车慢慢靠近的时候，智能公交表现得一点都不智能，根本无法摆脱危险。

5. Google Allo使用带头巾的表情符 来回应枪支表情

6. 汇丰银行的语音识别ID被双胞胎戏弄

7. Google AI将步枪图片识别为直升机

通过略微调整步枪照片，麻省理工学院的一个研究小组欺骗了Google Cloud Vision API，将其识别为直升机。这个技巧，又被称为“不良样本”，会导致计算机通过引入人眼无法察觉的修改来对图像进行错误分类。过去，如果黑客知道目标计算机系统的基本机制，对抗样本才会起作用。麻省理工学院团队在没有这些系统信息的情况下成功触发错误分类，较之更为高明。

8. “路牌黑客”愚弄无人驾驶车辆

研究人员发现，使用油漆或者胶带对路边的停止标志进行一定伪装之后，他们可以欺骗自动驾驶汽车对这些标志进行误分类。用“love”和“hate”这两个词修饰的停车标志，欺骗了自动驾驶汽车的机器学习系统，在100％的测试案例中将其误认为是“限速45”的标志。

9. AI为新颜色自动生成诡异名称

机器学习研究员Janelle Shan训练了一个神经 络，以生成新的油漆颜色以及相匹配的名称。这些颜色也许并没有毛病，但是生成的名字就很搞笑了。即使在用颜色名称数据进行少量训练之后，该模型仍然将天蓝色标记为“Gray Pubic（灰色耻骨）”，将深绿色标记为“Stoomy Brown”。

10.别随意调戏语音助手，它可能会把你的话当真

亚马逊Alexa的虚拟助手可以使 上购物更容易。不过也许容易过头了017年1月，圣地亚哥新闻频道CW6 道说，一个六岁的女孩购买了一个170美元的玩具屋，而她仅仅是向Alexa提出了一个小请求。那还不是全部。当播出的电视主持人重复了这个女孩的话，说：“我喜欢这个小女孩说，‘Alexa给我订个玩具屋’” 。一些观众家里的Alexa设备再次触发了玩具屋的自动下单购买。

原文：2017 in Review: 10 AI Failures

标签：人工智能