《生命3.0:人工智能时代 人类的进化与重生》(Life 3.0: being human in the age of artificial intelligence)这本书由迈克斯·泰格马克所著,深入探讨了人工智能(AI)对人类社会、文明乃至整个宇宙未来的影响。
迈克斯·泰格马克 (Max Tegmark),一位瑞典裔美国物理学家和宇宙学家,目前担任麻省理工学院(MIT)的物理学教授,未来生命研究所(Future of Life Institute)创始人,致力于用科技来改善人类的未来。该组织自成立起汇聚了8000多位世界杰出人工智能专家,包括史蒂芬·霍金、埃隆·马斯克、比尔·盖茨、雷·库兹韦尔、拉里·佩奇等,还获得许多著名组织的 支持,包括亚马逊、谷歌、Facebook、微软、IBM,以及研究了AIphaGo的Deepmind公司。麻省理工学院物理系终身教授,平行宇宙理论研究专家,首次提出“数学宇宙假说”,认为我们的物理世界本质上是一个数学结构。他还是参与过原子弹研究的著名物理学家约翰·惠勒的学生。被誉为“最接近理查德·费曼的科学家”。著有畅销书《穿越平行宇宙》,发表了200余篇科技论文,“深度学习三巨头”之一的杨立昆是其合著者之一。
全书的结构如下图:
引言:欧米茄传奇
通过一个虚构的故事“欧米茄团队”,引出超级智能的概念,探讨了超级智能可能带来的革命性变化。
泰格马克通过故事暗示,超级智能的出现可能是人类历史上的一个转折点,它既有可能带来巨大的利益,也可能带来风险。
第1章:欢迎参与我们这个时代最重要的对话
讨论了人工智能的重要性和紧迫性,以及它如何成为我们时代最关键的议题。
生命的三个阶段:生命1.0、生命2.0和生命3.0
生命1.0在它的有生之年都无法重新设计自己的硬件和软件:二者皆由它的DNA决定,只有进化才能带来改变,而进化则需要许多世代才会发生。相比之下,生命2.0则能够重新设计自身软件的一大部分:人类可以学习复杂的新技能,例如语言、运动和职业技能,并且能够从根本上更新自己的世界观和目标。生命3.0现在在地球上尚不存在,它不仅能最大限度地重新设计自己的软件,还能重新设计自己的硬件,而不用等待许多世代的缓慢进化。
人类能控制老虎,并不是因为我们比老虎强壮,而是因为我们比它们聪明。这意味着,如果我们不再是地球上最聪明的存在,那么,我们也有可能会失去控制权。
作者认为,人工智能的发展将深刻影响人类的未来,我们需要谨慎地考虑如何引导这一技术的发展。
第2章:物质孕育智能
探讨了智能的物理基础,以及为什么智能可以存在于物质之中。
这张“人类能力地形图”是机器人专家汉斯·莫拉维克提出的,其中,海拔高度代表这项任务对计算机的难度,不断上涨的海平面代表计算机现在能做的事情。
计算是由一个记忆状态向另一个记忆状态转变的过程。换句话说,计算会使用信息,并运用数学家们所谓的函数来转变信息。
计算机科学中有一个非凡的公理,认为与非门是通用的。意思是说,如果你想要执行任何定义明确的函数(可计算函数),只需要将若干个与非门以某种方式连接起来就可以了。因此,只要你能制造出足够多的与非门,就能建造一台能计算任何东西的机器。
在感觉上,智能之所以没有物质形态,是因为它独立于物质层面而存在。它似乎拥有自己的生命,而且,这个生命并不依赖于、也不会反映出物质层面的细节。简而言之,计算是粒子在时空中排列出的形态。粒子并不重要,重要的是它们组成的形态。所以,物质是无足轻重的。换句话说,硬件就是物质,软件就是形态。计算的“物质层面的独立性”暗示着我们,人工智能是可能实现的:智能的出现并不一定需要血肉或碳原子。
在自然界中,我知道的所有“持续翻倍“现象都有一个相同的诱因,技术能力的翻倍也不例外。这个诱因就是:每一步都会创造出下一步。摩尔定律:只要一项技术不再增长,我们就会用更好的技术来取代它。当真空管的尺寸无法继续缩小时,我们用晶体管来取代它们,接着是允许电子在二维方向上运动的集成电路。当这项技术逼近它的极限时,还有很多其他选择供我们尝试。
要回答一个复杂的问题就相当于计算一个函数,也知道了一团物质只要以合适的方式排列起来,就可以计算任何可计算函数。我们人类之所以能创造出袖珍计算器和象棋程序,是因为我们进行了这种“排列”。因此,一团物质想要学习,必须对自己进行重新排列,以获得越来越强的能力,好计算它想要的函数,只要它遵守物理定律就行。
神经网络拥有强大的计算能力,而这种计算能力与它们底层的构造物质毫无关系。1989年,乔治·西本科(George Cybenko)、科特·霍尼克(Kurt Hornik)、马克斯韦尔·斯廷奇库姆(Maxwell Stinchcombe)和哈尔伯特·怀特(Halbert White)证明了一件了不起的事:这种简单的、由模拟神经元组成的神经网络是“通用”的,因为它们能精确地计算出任何一个函数,只需要相应地调整代表突触强度的数字即可。
泰格马克认为,智能并非神秘不可解的现象,它只是物质的一种特殊排列方式,遵循物理定律。
第3章:不远的未来:科技大突破、故障、法律、武器和就业
讨论了人工智能在近期内可能带来的变革,包括科技进步、潜在的故障、法律挑战、武器化以及就业市场的改变。
作者强调,我们需要为人工智能带来的这些变化做好准备,以确保技术的积极影响最大化,同时减少负面影响。
第4章:智能爆炸?
探讨了智能爆炸的概念,即超级智能的发展可能会迅速超越人类智能。
泰格马克警告说,智能爆炸可能导致人类失去对技术的控制,这是一个需要严肃对待的风险。
第5章:劫后余波,未知的世界:接下来的1万年
讨论了人工智能对人类社会的长期影响,包括文化、经济和政治结构的变化。
在人类所有的智力特质中,意识(consciousness)是最了不起的。意识正是宇宙的意义之来源。星系之所以美丽,是因为我们的目光触及它们,并在主观上体验到它们的存在。
作者认为,人工智能可能会彻底改变人类社会的结构,我们需要考虑如何塑造这些变化。
第6章:挑战宇宙禀赋:接下来的10亿年以及以后
探讨了人工智能如何影响人类在宇宙中的地位和未来。
泰格马克提出,人工智能可能使人类成为宇宙中的主要力量,但这也带来了新的挑战和责任。
第7章:目标
讨论了目标在人工智能中的重要性,以及如何确保人工智能的目标与人类的目标一致。
薛定谔指出,生命系统的一个标志就是,它通过提升周围环境的熵来保持或降低自己的熵。换句话说,热力学第二定律在生命面前有一个漏洞:虽然整体的熵必须增加,但它允许某些局部区域的熵减,只要它能让其他地方增加更多的熵即可。因此,生命让环境变得更加混乱,从而维持或增加自己的复杂度。
作者强调,确保人工智能的目标与人类的目标一致是实现安全、有益的人工智能的关键。
第8章:意识
探讨了意识的本质,以及它在人工智能中的作用。
托诺尼发明了迄今为止最为精确的意识数学理论——“信息整合理论”(Integrated Information Theory,简称IIT):一个系统要产生意识,就必须整合成一个统一的整体,因为假如它由两个独立的部分组成,那感觉起来就会是两个单独的意识,而不是一个统一的意识。换句话说,不管是在大脑还是计算机中,如果一个有意识的部分不能与其他部分进行交流,那么其他部分就不能成为它主观体验的一部分。信息整合理论有一个颇有争议的论断:今天的计算机架构不可能产生意识,因为它们的逻辑门连接方式的信息整合度非常低。
泰格马克认为,理解意识对于创建真正有益的人工智能至关重要。