前情回顾
今天我们来讲兵分两路之后AI遭遇寒冬的这段历史(1969年--1980年 ,下图中红色矩形部分) 。
1. 连接主义首先遭遇寒冬
上一篇中提到:人工智能兵分两路后,1969年符号主义领军人物Marvin Minsky在《perceptrons》一书中对连接主义的批判。书中举了一个简单的例子来质疑连接主义的感知器:那就是如何让连接主义解决一个“异或”问题,简单点:就是如何用一条线(连接主义的线性函数)把图上的红绿点分开?(第一次看这个朋友请翻阅AI历史前面的文章)。
Marvin Minsky的局限之处就在于他小看了神经网络的一个”潜力“特征,那就是:
虽然单层神经元(一条直线)不能分开,但只要神经网络中多一层(我们称之为“MLP”--Multiple Layer Perceptron多层感知器) 就会多出一条直线,从而将红绿点分开。
但当时Marvin Minsky认为这种方式不如符号主义来的直接(用if,else就能解决),考虑到当时的算力局限,他认为连接主义这条路根本行不通。而在50年后的今天,在足够的算力条件下,我们用”暴力美学”的大模型完美的证明了这一点。
实际上,“连接主义(人工神经网络)”的可贵之处就在于:这个模型能为任何东西建模。神经网络之于人工智能,就像牛顿力学之于物理,是一个“大一统”的方法。这也是连接主义区别于符号主义的最大特征:“一条定律,通用全领域”,而符号主义遵循是“术业有专攻,专业AI做专业事”(1980年代符号主义就是以“专家系统”为主要发展方向)。
也就是说你可以把连接主义的人工神经网络想象成一个函数f(X), (X是一个向量),而这个函数能拟合出任意函数曲线,计算出一个输出Y值。
举个例子,假设(只是假设)股票的涨跌遵循某种规律,我们已知历史股价的数据(如下图中红色点所示),神经网络就能通过历史数据的学习,拟合出一条曲线(蓝色曲线),然后你就可以依照这个曲线来预测未来的股票涨跌。
怎么样,很神奇吧,你会很好奇为啥那条曲线会上下抖动直到最后完全拟合,其实你也可以去google Tensor flow的官网(https://playground.tensorflow.org/)亲手“创造”一个可以进行“分类”的人工神经网络,如下图注意观察右侧蓝橘点会被神经网完美分类。
这个界面打开后,按照下图的提示,可以做些有趣的实验。
- 第一步:点击左侧选择数据集。
- 第二步:设置神经网络层数。
- 第三步:设置每层神经元的个数。
- 第四步:点击左边的Play按钮。
- 第五步:观察右侧,神经网络通过学习已有数据集,逐渐将两组数据分开。
上述是利用神经网络解决一个简单的分类问题,也是我们大脑最基础的功能就是分类,比如今天出门要判断是否穿羽绒服,大脑就会思考这和天气、出行方式两个因素相关,根据这两个输入因素最后来判定出:穿,或者不穿。那么这里,神经网络的输入X1, X2对应天气、出行方式,输出为:穿或者不穿。
关于为什么神经网络能这么神奇,我会单开一篇讲它的原理。
尽管神经网络这么厉害,但今天我们从历史发展角度看, 在当时的算力条件下,要实现初级的人工智能,连接主义的方法确实不适合。就像一个刚刚出生的小孩,大脑还没有发育好(算力不够强大),直接“教”给他1+1=2要比让他自己探索出1+1=2要划算许多。
于是"连接主义"这一派在1969年首先就遭遇寒冬。实际上Marvin Minsky 对连接主义的批判效应持续了几十年,最惨的就是之后的10年,学术界几乎没有发布一篇关于人工神经网络的论文,包括今天我们所熟知的深度学习教父Hinton因为支持连接主义,做了30年研究几乎默默无闻。
2. 符号主义的泡沫
在1960-1969年期间,符号主义确实得到了蓬勃发展,主要表现在两方面:
1) 人机交互: 最常见的是语音识别。 比如IBM的语音识别器Shoebox,大小和一个鞋盒差不多,所以命名为Shoebox,它能识别并响应 16 个口语单词,包括从“0”到“9”的十个数字和“加”、“减”和“总计”等运算符命令,Shoebox 会按照语音输入计算并打印简单算术问题。 而Shoebox 就是根据各种类型的声音对这些脉冲进行分类,识别出哪个数字和运算符,而这个分类就是基于符号主义的规则来分类的。
1961年IBM的Shoebox
2)计算机语言: 上一篇中我们提到专门为人工智能创立的LISP语言,大大促进了计算机语言的发展。今天看起来很自然的计算机语言在当时可是被划入人工智能的行列。而且在1969年麻省理工就用LISP语言发明了世界上第一个 能够推理自己行为的通用移动机器人Shakey(因为走起路来摇摇晃晃而得名)。他能够 从一个位置到另一个位置、打开和关闭电灯开关、打开和关闭门、从刚性物体上爬上爬下以及推动可移动物体。比
如你 计算机控制台上输入命令“将一个Block推离平台”。Shakey 环顾四周,识别出上面有块的平台,并找到一个坡道以便到达平台,然后 Shakey 将坡道推到平台上,并将块推离平台。
1969年麻神理工机器人Shakey所处的实验环境
Shakey的构造
尽管这类“实验品”在今天看来平平无奇,在当时可是名噪一时,甚至在1970年, Marvin Minsky在美国Life 杂志的访谈中提到: “未来3-8年,机器将会达到人类智力的平均水平,并且如果幸运的话,人类可能会成为机器的宠物。”
1970年11月《Life》杂志关于Shakey的报导
而当时,Marvin Minsky并未意识到,人们可能对人工智能的认识过于乐观,而且人工智能的寒冬马上就要来临。
3. 资金切断,符号主义惨遭寒冬
1974年,美国经济下滑(1974/1975年出现历史上罕见的连续两年GDP负增长),AI的大金主“美国国防高级研究计划局”撤资,这是导致了“AI寒冬”的直接原因。
在1972年,远在英国有一位叫Lighthill的应用数学家发表了一篇长达43页的万字报告《人工智能:综合调查》提到:“通用机器人是海市蜃楼”,指出“迄今为止在该领域中取得的任何发现都没有产生当时所承诺的重大影响”。
实际上,由于当时的AI没有商业价值产出,缺乏发展的内在动力,人们对AI的过高期望其实都推进了AI寒冬的到来。
寒冬的到来不仅导致AI几乎停滞发展,也让人工智能专业的高学历者遭遇着“毕业即失业”窘境。这其中就包括一位远在英国年轻博士:Hinton Geoffrey。没错,就是 今天的深度学习教父 Hinton Geoffrey。
但是,所有的外部条件依然挡不住有些人在寒夜中孤独前行,为我们带来了今天的AI繁荣。除了Hinton之外,还有一个叫Hopfield的领路人,敬请期待下一篇《AI漫画AI进化史之“跨学科碰撞的小火花”》
参考文章:
1970年11月《Life》杂志关于Shakey的报导:https://forums.spacebattles.com/threads/in-three-to-eight-years-we-will-have-a-machine-with-the-intelligence-of-a-human-being.375654/
Shakey demo 视频展示:https://www.youtube.com/watch?v=GmU7SimFkpU
英国lightHill关于人工智能是海市蜃楼的影像:https://www.youtube.com/watch?v=03p2CADwGF8
LightHill report:http://www.chilton-computing.org.uk/inf/literature/reports/lighthill\_report/p001.htm