原文链接 （https://interestingengineering.com/technological-singularity-an-impending-intelligence-explosion）
科技奇点：即将到来的“智能爆炸”
- 我们知道它即将到来，但它可能很快就会发生吗？
马修·S·威廉姆斯
2021 年 8 月 8 日
在本世纪，人类预计将经历革命性的变化，这种变化是自从我们第一次开始说话，利用工具和种植作物以来就从未见过的。这种变化有多种名称——“智能爆炸”、“加速器”、“技术奇点” —— 但它们都有一个共同点：
都归结为这样一种假设，即加速变革、技术进步和知识将从根本上改变人类。该理论以各种形式引用了诸如技术的迭代性质、计算技术的进步以及重大创新导致人类社会爆炸性增长的历史实例等概念，来证明它的可信性。
许多支持者认为，这种“爆炸”或“加速”将发生在21世纪的某个时候。虽然具体细节尚有争议，但支持者普遍认为这将归结为计算技术和人工智能 (AI)、机器人、纳米技术和生物技术领域的发展。
此外，对于它将如何发生，是否是不断加速变化的结果，是否是由自我复制和自我升级的机器引发的失控加速，是否是由人工智能引发的“智能爆炸”，也存在不同意见。还有对先进和独立的人工智能的诞生，或生物技术增强和增强的结果，也同样存在不同意见。
对于这是否会会类似开关一样突然变化，还是随着时间的推移逐渐蔓延的渐进过程，可能没有明确的起点或拐点，意见也存在分歧。但无论哪种方式，人们都同意，一旦“奇点”确实发生，我们现在所熟悉生活将不再相同。在这方面，源于黑洞的术语“奇点”用的非常恰当，因为它也有一个事件视界，一个我们理解其含义的能力崩溃的时间点。
定义：
在这种情况下，“奇点”一词的使用首先出现在斯坦尼斯拉夫·乌拉姆 (Stanislav Ulam) 撰写的一篇关于约翰·冯·诺依曼 (John von Neumann) 的生平和成就的文章中。乌拉姆在讲述朋友的观点时，描述了两人曾谈到加速变革的过程：
“有一次谈话围绕着不断加速的技术进步和人类生活方式的变化，这使得人类历史上的某些基本奇点似乎接近了，正如我们所知，人类事务无法继续下去。 ”
然而，人类有朝一日可能实现“智能爆炸”的想法在乌拉姆的描述之前就有一些先例。例如，加州大学伯克利分校的 Mahendra Prasad 认为 18 世纪数学家 Nicolas de Condorcet 做出了第一个有记录的预测，并为其创建了第一个模型。
在他的文章《人类思想进步的历史图景：第十纪元》（1794 年）中，德孔多塞表达了知识获取、技术发展和人类道德进步是如何加速的：
“如果……这些自然的[人类]能力本身和这个[人体]组织也可以得到改善，那么确定性会有多大，我们希望的计划有多大？……医疗实践的改善。 .. 会随着理性的进步而变得更有效...
“[我们]肯定会相信人类的平均寿命会永远增加……难道我们不能把[我们的]希望[完美]扩展到智力和道德能力吗？……教育是不可能的吗？ ，在完善这些品质的同时，是否会影响、修改和完善[物理]组织？”
另一位先驱是英国数学家欧文·约翰·古德，他在二战期间与艾伦·图灵一起在布莱切利公园工作。 1965 年，他写了一篇题为“关于第一台超智能机器的推测”的文章，他认为比人工智能更聪明的人可以在称为“子组装理论”的持续过程中创造出更聪明的人工智能。
1965 年，美国工程师戈登·摩尔指出，集成电路 (IC) 上的晶体管数量预计每年都会增加一倍（后来更新为大约每两年一次）。这后来被称为“摩尔定律”，用于描述 20 世纪下半叶计算的指数性质。它也与奇点有关，以及为什么“智能爆炸”是不可避免的。
1983 年，Vernor Vinge 在 Omni 杂志的一篇专栏文章中推广了这一理论，他认为快速自我改进的 AI 最终会达到“某种奇点”，超出这一点，现实将难以预测。也是在这里，首次与黑洞进行了比较：
“我们很快就会创造出比我们自己更伟大的智能。当这种情况发生时，人类历史将达到一种奇点，一种像黑洞中心打结的时空一样难以穿透的智力转变，世界将远去超出我们的理解。我相信，这种奇点已经困扰了许多科幻作家。它使得对星际未来的现实推断变得不可能。要写一个以一个多世纪为背景的故事，一个人需要在两者之间进行核战争.. . 以便世界保持可理解性。”
如何以及何时实现？
Vinge 在 1993 年的一篇题为“即将到来的技术奇点：如何在后人类时代生存”的文章中进一步普及了技术奇点。除了重申概念的本质外，Vinge 还列出了该事件如何发生的四种可能情况。他们包括：
超级智能计算机：这个场景基于人类最终可能会开发出具有“意识”的计算机的想法。 Vinge 说，如果这样的事情是可能的，那么毫无疑问，比人类更先进的人工智能可能会自然产生。
网络：在这种情况下，大型计算机网络及其各自的用户将共同构成超人智能。
心机接口：Vinge 还提出了一个场景，人类智能可以与计算结合以增强他们的智能，从而产生超人的智能。
引导进化：Vinge 说，生物科学也有可能发展到提供一种提高人类自然智力的手段的地步。
但也许这个概念最著名的支持者是著名的发明家和未来学家 Ray Kurzweil。他 2005 年出版的著作《奇点临近：当人类超越生物学》可能是他最著名的著作，它扩展了早期著作中提出的思想，最著名的是他的“加速回报定律”。
该定律本质上是摩尔定律的概括，并指出技术系统的增长率随时间呈指数增长。他进一步引用了计算、遗传学、纳米技术和人工智能等技术的指数增长将如何达到顶峰并引领超级智能的新时代。
“奇点将使我们超越生物体和大脑的这些限制，”库兹韦尔写道。 “在后奇点时代，人和机器之间将没有区别。”他进一步预测奇点将在 2045 年发生，因为这是计算机智能显着超过人类脑力总和的最早时间点。
为了看到这些正在发挥作用的趋势，未来主义者和投机性思想家通常会举出人类历史上重大创新的例子，通常关注使我们以指数方式传递和消费信息的方式更快的技术。在所有情况下，目的是展示创新之间的时间间隔如何越来越短。
加速变革
一种重要的思想流派与共享数据的方式有关，也称为“消息压缩”。这里的基本思想是，人类创建和共享的数据的渐进量可以作为时间的表达来衡量，即媒体允许我们接触的人数。
例如，洞穴壁画是已知最早的间接（即非语言）交流方式，其中一些最早可以追溯到大约 10 年前。四万年前。这些画作——可能是历史记录、祖先故事或当时已知星座的最早目录——可能只有制作它们的大家庭社区的成员才能见证。
下一个重大创新出现在新石器时代 - 约。公元前 9,000 年 - 以类似于物理对象的符号形式（又名象形图）。大约 5500 年前，这让位于表意文字，书写传达概念而不是对象的符号。
然后是大约 3,000 年前的第一个字母，例如腓尼基文字。随之而来的是大规模印刷技术，从木版印刷（约 3 世纪）开始，到 11 世纪出现活字印刷，到 15 世纪出现印刷机。 1792 年出现了电报，这使得从地球的一个地方到另一个地方的打字通信成为可能。
然后是 1876 年亚历山大·格雷厄姆·贝尔的电话，它允许远距离的听觉信息传递。随后是世纪之交的无线电通信，使音频通信更进一步。到 1920 年代中期，电影和电视（结合音频和视频信息）的传输在短时间内随之而来。
到 1931 年，麻省理工学院的 H.L. Hazen 和 Vannevar Bush 建造了微分分析仪 [PDF]，这是有史以来最复杂的模拟计算机。到 1939 年，第一台机电模拟计算机（又名数字计算机）问世。在 1940 年代（和第二次世界大战），创建了依赖于真空管、数字电子电路、晶体管和存储程序的计算机。
1950 年代，发明了第一批集成电路，到 1960 年代，个人“台式”计算机开始出现。到 1975 年，IBM 发布了第一台移动计算机 (IMB 5100)，到 1980 年发布了第一台“笔记本电脑”。到了千禧年，智能手机的使用和移动计算变得多产，信息技术 (IT) 部门也是如此。
从正确的角度来看，预测分析师经常将现代智能手机技术与阿波罗时代的计算机进行比较。而在 1969 年至 1972 年间引导宇航员六次登月的 NASA 计算机具有相当于 73,728 字节的工作记忆。与此同时，今天的智能手机拥有高达 32GB 的内存，大约是阿波罗制导计算机工作内存的 430,000 倍。
技术奇点：即将到来的“智能爆炸”
资料来源：Hilbert, M. (2020)
NASA 还对人类取得的进步进行了权衡，表明航海者 1 号和 2 号航天器 - 探索了外行星并成为第一个到达星际空间的人造物体 - 每个拥有 69.63 KB 的内存。相比之下，Apple 的 iPhone 5（于 2012 年首次发布）的内存高达 16 GB，大约大 240,000。
简而言之，今天的人们消费和产生的数据量绝对会让两代人前还活着的人感到震惊。按照这个速度，从现在起只有一代人的成年人可能生活在一个对我们今天来说几乎是深不可测的世界中。
“信息时代”与“大数据”
另一个表明奇点即将到来的关键指标是信息技术和信息生产随着时间的推移而大幅增加的方式。随着计算、网络、互联网和无线技术的进步，与无数其他人连接的人数在很短的时间内呈指数级增长。
1990 年至 2016 年间，全球互联网接入人数从 260 万增加到 34.08 亿（乘数为 1310）。
根据联合国国际电信联盟 (ITU) 2018 年的一份报告，由于移动设备和卫星互联网服务的增长，到 2050 年，全球 90% 的人口将能够使用宽带互联网服务。那是 87.6 亿人，比现在可以访问的 40 亿人（约占全球人口的一半）增加了 220%。
另一个关键指标是随时间生成的数据量。在 2010 年的技术会议期间，谷歌首席执行官埃里克施密特声称人类每两天创造的信息量与文明诞生之初（大约 6000 年前）和 2003 年之间的信息量一样多。他估计，这大约是 5 艾字节(EB) 数据，或五五亿 (1018) 个字节。
到 2010 年代，人类进入了所谓的“Zettabyte 时代”，其中生成的数据量等于六亿 (1021) 字节。根据 Statista 的数据，2010 年至 2020 年间创建的数据量从 2 ZB 增长到 64.2 ZB——每年增长 32%——预计到 2025 年将达到 181 ZB——每年增长 36%。
同样，随着时间的推移保存的数据量也以惊人的速度增加。从 2005 年到 2020 年，全球存储容量从 200 EB 数据增长到 6.7 ZB（平均每年 223%）。以 19.2% 的复合年增长率估计，到 2025 年，全球存储容量预计将达到 16.12 ZB。
什么会超过呢？鉴于目前的进展速度，人类很可能在 2050 年之前进入“Yottabyte 时代”（1024 字节）。但考虑到利率本身会加速，这一里程碑比本世纪中叶更早出现并非不可能。
所有这些数据构成了人类知识的基础，随着越来越多的人连接到高速互联网连接并发现这些惊人数量的数据基本上触手可及（或可能直接连接到他们的大脑），这个集体图书馆可以提供服务作为各种技术奇点的发射台。
人工智能
通往奇点的另一个预期途径是高级人工智能 (AI) 的发展。这个概念最初是由著名数学家和密码破译者艾伦·特宁（Alan Turning）推广的，他提出了“机器能思考吗？”的问题。在他 1950 年的论文“计算机与智能”中。也是在这篇论文中，他设计了他著名的“模仿游戏”（又名“图灵测试”）。
Turning 写道，这款游戏将包括一个人类审讯者，试图区分计算机和人类，后者会以文本形式回答一系列问题。正如图灵解释的那样：
“我们现在问这样一个问题，‘当一台机器在这个游戏中扮演 AI 的角色时会发生什么？’像这样玩游戏时，审讯者会不会像在男人和女人之间玩游戏时那样经常做出错误的决定？这些问题取代了我们原来的‘机器能思考吗？’”
Stuart Russell教授（加州大学伯克利分校）和Peter Norvig（谷歌研究总监）出版了一本关于人工智能研究的领先教科书，题为人工智能：一种现代方法。在其中，他们区分了像人类一样思考和行动的计算机系统与那些会理性思考和行动的计算机系统。
近几十年来，由于超级计算机、机器智能、深度学习和其他能够处理信息和识别模式的应用程序，这种区别变得更加明显。 “会思考的机器”的进步与计算的进步保持同步，并导致程序在某些方面远远超过人类智能。
1959 年，随着通用问题求解器 (GPS) 的发明，开发 AI 的努力正式开始，这是由兰德公司的经济学家和认知心理学家赫伯特·A·西蒙、J.C.肖和艾伦·纽厄尔创建的计算机程序。他们希望，这个程序将导致“通用问题解决机器”的开发。
1957 年，第一台旨在模拟神经网络的计算机（Mark 1 感知器）由美国心理学家弗兰克·罗森布拉特 (Frank Rosenblatt) 制造。该机器展示了通过反复试验学习的能力，为 Rosenblatt 赢得了“深度学习之父”的非正式荣誉。
技术
在 1980 年代，“误差的反向传播”算法（简称反向传播）与神经网络相结合，使它们能够更快地工作并解决以前认为无法解决的问题。这些成为所有未来神经网络和人工智能应用的中流砥柱。
1996 年，IBM 推出了 Deep Blue，这是一款国际象棋计算机，在一系列比赛和复赛中击败了世界国际象棋冠军加里·卡斯帕罗夫 (Garry Kasparov)。到 2008 年，IBM 的 DeepQA 项目完成了 Watson 的工作，Watson 是一款问答超级计算机，将继续在 Jeopardy! 上竞争（并获胜），并在 2011 年击败冠军 Ken Jennings 和 Brad Rutter。
2014 年，谷歌收购了英国科技公司 DeepMind，该公司将机器学习和神经科学相结合，创建通用学习算法。 2016 年，该公司的 AlphaGo 程序在五场比赛中击败了世界围棋冠军 (李世乭)。
2015 年，中国公司百度发布了一篇论文，解释了他们的 Minwa 超级计算机如何创造图像识别新记录，打破谷歌之前的记录。这是通过一种称为卷积神经网络的新型深度学习实现的，它可以比普通人更准确地识别和分类图像。
今天，政府、研究机构和私营部门经常使用超级计算机和机器学习来进行“数据挖掘”——在大数据集中寻找异常、模式和相关性。这对于处理每天创建的不断增长的信息量和预测结果是必要的。
1985 年，算法信息理论的发明者 Ray J. Solomonoff 教授撰写了一篇文章，详细说明了他认为在人工智能完全实现之前需要实现的七个发展里程碑。他们是：
人工智能作为一个领域的创建，人类问题解决的研究（又名“认知心理学”），以及大型并行计算机（类似于人脑）的发展。
解决问题的一般理论，包括机器学习、信息处理和存储、实现方法和其他新概念。
开发能够自我改进的机器。
一台可以读取几乎任何数据集合并将大部分材料合并到其数据库中的计算机。
在其设计领域（即数学、科学、工业应用等）中具有接近人类的一般问题解决能力的机器
一台容量接近计算机科学界的机器。
一台容量是计算机科学界数倍的机器。
简而言之，Solomonoff 认为人工智能的发展将包括构建能够模仿人类大脑功能（学习、信息保留、解决问题、自我提升等）并最终超越它们的机器。在撰写本文时，他断言除了首先之外的所有工作仍然需要完成。
根据这个路线图，我们现在已经接近实现真正的人工智能了，因为现代超级计算机在许多方面都能够胜过人类，但不是所有方面——尤其是在抽象或直觉推理方面。尽管如此，我们离机器智能完全超越人类的那一天越来越近了。
当这种情况发生时，科学研究和开发将加速，带来大胆的新可能性。如果这些机器的任务是创造更高级的自己，一旦它们达到人类水平的通用智能，它们可能没有理由停止这样做，并且可以继续改进自己，直到你拥有库茨韦尔所说的人工智能超级智能“起飞” ”，一个明确的拐点，标志着技术的奇点。
—
但是，当然，计算、信息生产以及进步似乎总是更快的方式只是可能将我们引向所谓的奇点的一小部分途径。在第二部分，我们将研究纳米技术和医疗技术的进步如何引导我们走向未来难以预测的时间点。
我们还将研究这种预测的革命将如何发生——快速开始或逐渐发生——以及可能产生的影响。最后但并非最不重要的一点是，我们将看看批评者和怀疑者对此的看法，以及它如何与其他似乎永远不会实现的预测相叠加。