Facebook AI主管Yann LeCun:聊AI的时候不要再拿终结者说事儿

2017-11-01阅读
http://5b0988e595225.cdn.sohucs.com/images/20171101/4f47b0ac6e6543c78471432194533a78.jpeg

作者 | James Vincent

编译 | Vincent

审校 | 薛命灯

AI 前线导语:Yann LeCun 是 AI 研究领域最负盛名的成功者之一,所以当他说目前我们已经取得的成绩并不足以让我们离超级智能更进一步时,我们认为有必要让各位读者来好好听一听他的言论。

更多干货内容请关注微信公众号“AI 前线”(ID:ai-front)

LeCun 已经在 AI 领域工作了数十年,并且是卷积神经网络(CNN)的联合创始人之一——CNN 是一种用于分析视觉数据的程序,是自动驾驶和面部识别方面强有力的工具。现在,作为 Facebook AI 研究机构 FAIR 的负责人,LeCun 致力于将 AI 技术从实验室落地到现实生活当中。该团队所开发的软件可以自动为盲人给照片添加文字说明,每天运行 45 亿次 AI 智能翻译。

“我们对产品的影响比扎克伯格预期的更大,” 近日,LeCun 通过 Skype 告诉记者。但是,正如他在采访中所解释的那样,人工智能在具备接近婴儿的智力甚至是动物的智力之前,仍然有很漫长的路要走。如果你不介意,LeCun 会因为我们不在文章中使用类似“终结者”这样的图片而感到高兴。

以下采访内容已在不改变原意的前提下进行了精简

Q:最近有关 Facebook 最重大的一个新闻就是当他们发现“AI 机器人”有了自己的语言之后,紧急将它关闭。有不少报道扭曲了这项研究的事实,您和您的同事对这些失实的报道作何反应?

LeCun:当我们第一次看到这则报道的时候,我们都忍不住笑出了声。当然这取决于有多少关注度。后来,当这则“受欢迎”的报道成为爆款之后,我们的感觉就像拽头发那样痛苦:“他们完全错了!”

这一事件对我们来说是有启发性的,因为它让我们知道了媒体能过造成多大的影响,而我们对此有这样一些应对措施:我在 Facebook 上快速发表了一个帖子,说这样的报道是荒谬的,在我们严肃对待这次的事件之前,我们先试图采用幽默的方式。我们和一些想要知道真相的记者交谈,并撰写了关于这次的报道有多么失实的文章。

Q:在过去几年中,您认为受到这样的报道的次数是更多了还是更少了?

LeCun:更少了。在某种意义上说,媒体和公众似乎变得更加能意识到真相是什么。在以前,你能看到的有关 AI 的报道,配图几乎全都是终结者。但是现在几乎很少看到了,这是一件好事 [...] 虽然偶尔还能看到某些新闻媒体提出一些完全荒谬和错误的观点。

Facebook 的 Prineville 数据中心。许多地方之一,它提供了 AI 功能的功能,如图像字幕和翻译。摄影师: Vjeran Pavic

Q:当你看到这样的报道时,你对人们说些什么?

LeCun:每当我和公众进行交谈时,我都会重复这句话:我们离建造真正的智能机器还很远。你现在看到的一切 —— 所有这些 AI 的壮举:比如自动驾驶汽车、解析医学图像、击败世界冠军的 AlphaGo 等等 —— 这些都是非常狭义的智能,他们都是为达到特定的目的而进行训练的,而训练的目的就是为了收集大量的数据。

我并不是要看轻 DeepMind 的朋友们在 AlphaGo 身上所做的研究和投入,但是如果人们把 AlphaGo 的发展看成是通向广义智能的关键过程,那么就大错特错了。它确实不是。并不是说有一台叫做 AlphaGo 的机器人打败了人类,那么未来就会有各种各样的机器人遍布各个角落。AlphaGo 对促成这种局面毫无帮助,它们是完全不同的问题。其他人可能会有不同的看法,但这是我个人的意见。

距离机器能够像人或者动物那样认知世界还有很长的路要走,是的,尤其在机器的超人类表现的方面。但在广义智能领域,它们目前的智商还不如一只老鼠。所以很多人担心这类问题(智能危机)还为时尚早.……并不是说我们不应该考虑这个问题,只是在当下或者到了发展中期都不会有什么危险。AI 的某些领域存在着真正的风险,但并不会出现像电影《终结者》那样的场景。

Q:DeepMind 提到了与 AlphaGo 有关的部分工作,他们所创建的算法可以用在科学研究(蛋白质折叠和药物研究)上。您觉得在世界其他地方应用这项研究会有什么难度吗?

LeCun:AlphaGo 正在使用强化学习,而强化学习适用于游戏;它适用于只有少量离散动作的情况,它能够运行是因为:它需要很多次试验来执行复杂的操作。AlphaGo Zero(AlphaGo 的最新版本)在几天或几周内进行过数百万句围棋训练,这比自几千年前发明围棋以来那些围棋大师玩过的还要多。因为围棋环境本身并不复杂,我们可以在多台计算机上以每秒几千帧的速度进行模拟。但是,这在现实世界中不起作用,因为你不可能比时间跑得还快。

解决这个问题的唯一办法就是让机器能够通过学习建立自己的内部模型,从而可以模拟比现实世界更快的时间。我们缺乏的是能够让机器对世界建立模型的关键性技术。

要我举个例子的话,可以这么说:当一个人学会驾驶时,他们会在脑海里建立一个模型,让他们意识到,如果他们开错路或者撞到树,就会有不好的事情发生,所以,这么做不是好主意。在我们学习开车时,我们的大脑中就会建立一个完整的模型:我们知道我们需要把车停在街上,不要冲下悬崖或者撞到树上;但是,如果你使用纯粹的强化学习技术,并且用一个模拟器训练出一套系统来驾驶汽车,那么它将会在发生 40,000 次崩溃之后,才知道这样做是不对的。所以需要强调一点:强化学习不过是一种方法,但绝不是智能进步的关键因素。

Q:那么你认为,AI 仍然缺少一些超出目前限制所需的基本工具?[AI 先驱] 杰弗里·霍恩(Geoffrey Hinton)最近提到了这个话题,他说这个领域需要“把它全部丢弃,重新开始”。

LeCun:我认为他说的有点过了,但是我完全同意(我们需要更多的 AI 基础研究)。举个例子,Hinton 喜欢的模型之一就是他在 1985 年提出的一个名叫 Boltzmann 的机器,而且对他而言,这是一个很好的算法,但实际上它运行得并不是很好。我们想要找的是像玻耳兹曼机那样拥有与生俱来的优雅和易用性的机器,而且还有反向传播的功能 [用于优化 AI 系统的计算]。这就是我们这一波人 —— 自从二十世纪二十年代初重新开始了深入学习的工作之后,Yoshua(Bengio)、杰夫和我一直在追求的东西。让我们感到惊讶的是,最终,在工作中给我们支持的都是深度网络。

Facebook 正在大力研究虚拟助手 - 但是远远落后于亚马逊 Alexa 等竞争对手。

Q:鉴于 AI 得到很大程度的发展,您认为短期内对消费者最有用的是什么?Facebook 在这方面的计划是什么?

LeCun:我认为虚拟助手会是一个重点。现有的助手完全依靠脚本,把一堆有可能被问到的问题的答案告诉你。所以这使得虚拟助手变得很乏味、昂贵和脆弱,虽然它们在某些情况下还是有用的,比如用作客服。下一步计划将是加入一些学习系统,这也是 Facebook 正在做的事情。拥有一台能够读取长文本的机器,然后回答与之相关的任何问题 —— 这将是非常实用的功能。

再往下一步的计划就是基本常识,让机器与人一样掌握相同的背景知识。但是,除非我们能找到一些方法让机器学会如何通过观察来了解世界,否则我们不会这样做。其实也就是看视频或看书。这就是未来几年关键的技术挑战。我称之为预测学习,有人称之为无监督学习。

在接下来的几年里,随着虚拟助手变得越来越实用,虚拟助手会有持续的进步,能够造成的交流障碍也会越来越少。他们将学到更多的知识,并且不再依靠设计者的脚本来为人类做更多的事。这正是 Facebook 非常感兴趣的事情。

原文链接

https://www.theverge.com/2017/10/26/16552056/a-intelligence-terminator-facebook-yann-lecun-interview