关于人工智能的一个难以忽视的真相

　　我们正处于人工智能的第三次重大投资浪潮中。因此，现在正是从历史的角度来审视人工智能当前的成功的好时机。在 20 世纪 60 年代，早期的人工智能研究人员常常气喘吁吁地预测，距离人类水平的智能机器只有 10 年的时间。这种形式的人工智能基于符号的逻辑推理，并使用今天看起来慢得可笑的数字计算机来执行。这些研究人员考虑并拒绝了神经网络。

　　20 世纪 80 年代，人工智能的第二个时代基于两项技术： 基于规则的专家系统一种基于符号的逻辑推理的启发式形式以及由新训练算法的出现引发的神经网络的复兴。再一次，人们对人类在智力领域的统治地位的终结做出了令人惊叹的预测。

　　人工智能的第三个时代即当前时代出现于 2000 年代初期，出现了基于能够解决称为 3SAT的一类问题的算法的新符号推理系统，以及称为同步定位和绘图的另一项进步。SLAM是一种随着机器人在世界各地移动而逐步构建地图的技术。

　　2010 年代初，随着从海量数据集学习的神经网络的兴起，这一浪潮聚集了强大的新动力。它很快就变成了一场充满承诺、炒作和有利可图的应用程序的海啸。

　　不管你对人工智能的看法如何，现实是，几乎每一次成功的部署都有两个权宜之计之一：它在循环中的某个地方有人，或者如果系统出现错误，失败的成本非常低。2002 年，我共同创立的iRobot公司推出了第一款面向大众市场的自主家庭清洁机器人 Roomba，其价格严重限制了我们可以赋予它的人工智能程度。不过，有限的人工智能并不是问题。我们最糟糕的故障场景是Roomba缺少一块地板并且无法捡起灰尘球。

　　同年，我们开始在阿富汗和伊拉克部署第一批机器人，用于帮助部队拆除简易爆炸装置。那里的故障可能会导致人员死亡，因此总是有人在循环中向机器人上的人工智能系统发出监督命令。

　　如今，人工智能系统可以自主决定在网页上向我们展示哪些广告。愚蠢地选择广告没什么大不了的；事实上它们很丰富。同样，同样由人工智能驱动的搜索引擎向我们展示了一个选择列表，这样我们只需看一眼就可以跳过他们的错误。在约会网站上，人工智能系统会选择我们见到的人，但幸运的是，这些网站不会在我们没有发言权的情况下安排我们的婚姻。

　　到目前为止，无论营销人员怎么说，唯一部署在量产汽车上的自动驾驶系统都是 2 级系统。这些系统需要人类驾驶员将双手放在方向盘上并始终保持注意力集中，以便他们能够驾驶汽车。如果系统出现错误，可以立即接管。当人们不注意时，已经造成了致命的后果。

　　几乎每一次成功的人工智能部署都有两个权宜之计之一：它在循环中的某个地方有人参与，或者如果系统出现错误，失败的成本非常低。

　　当无人参与时，人工智能系统的可怕故障还不止这些。例如，人们因人脸识别技术而被错误逮捕，这种技术对少数族裔效果不佳，犯了任何细心的人都不会犯的错误。

　　有时，即使失败的后果并不可怕，我们也会陷入困境。人工智能系统为我们的智能扬声器以及汽车娱乐和导航系统的语音和语言理解提供支持。我们作为消费者，很快就会使我们的语言适应每个这样的人工智能代理，快速学习他们能理解什么和不能理解什么，就像我们对待孩子和年迈的父母一样。人工智能代理经过巧妙设计，可以就他们听到的我们所说的话向我们提供足够的反馈，而不会变得太乏味，同时让我们知道任何可能需要纠正的重要问题。在这里，我们，用户，是循环中的人。如果你愿意的话，机器里的幽灵。