这是一篇来自2015年的文章曾在FaceBook上分享超20万，如今ChatGPT横空出世让AI瞬间成为世界最关注的焦点，今天人工智能的发展正如文章所预测那样已经达到了一个可以看见的拐点，让我们跟随文章的视野回到8年前。（这篇文章非常长，所以作者将其分成了两部分。这是第一部分，耐心看完也许会颠覆你对智能和未来现有的认知！）
变革
我们正处于一个可与地球上人类生命兴起相媲美的变革边缘。— Vernor Vinge
站在这里是什么感觉？
站在那里看起来很刺激，但你必须记住一些关于站在时间图表上的感觉：你看不到你右边的东西。所以，站在那里的实际感受：
这可能感觉起来平平无奇……
遥远的未来—即将到来
想象一下，如果你乘坐时光机回到1750年——那是一个世界范围内永久性停电的时代，远距离通信意味着要么大声喊叫要么在空中发射大炮①，所有交通工具都依靠干草②。当你到达那里，你带一个家伙回到2015年，然后带他四处走走，观察他对一切的反应。对我们来说，无法理解他看到高速公路上飞驰的闪亮胶囊③、与当天早些时候还在大洋彼岸的人交谈、观看千里之外正在进行的体育比赛、聆听50年前的音乐表演以及和我的神奇巫师矩形方块④玩耍——他可以用它捕捉真实图像或记录生动时刻、生成一个带有超自然移动蓝点的地图告诉他自己的位置、即使对方在国家的另一端也能看到某人的面孔并与之聊天，以及其他无法想象的魔法。这一切都是在你向他展示互联网或解释国际空间站、大型强子对撞机、核武器或广义相对论等事物之前。
对他来说，这种经历不会仅仅是惊讶、震惊或者令人难以置信——这些词语都不足以描述。他可能因此而死（这里翻译成吓死）。
但有趣的是——如果他因为嫉妒我们能看到他的反应而决定尝试同样的事情，他就会回到1750年，然后再回到大约1500年，带一个人回到1750年，向他展示一切。1500年的那个人会对许多事物感到震惊——但他不会被吓死。对他来说，这会是一次远不如从1750年到2015年那样疯狂的经历，因为尽管1500年与1750年有很大的不同，但这种不同远没有1750年到2015年来得大。1500年的那个人会了解一些关于空间和物理学的令人费解的知识，他会对欧洲如何全力以赴地追随新帝国主义的潮流感到印象深刻，并且他需要对他的世界地图观念进行一些重大修订。但是观察1750年的日常生活——交通、通信等——绝对不会让他吓死。
不，为了让1750年的那个人像我们观察他那样得到同样的乐趣，他需要回到更远的过去——可能一直回到大约12000年前的公元前时期，在第一次农业革命引发第一批城市和文明概念出现之前。如果来自一个纯粹的狩猎采集者世界的人——从一个人类或多或少只是另一个动物种类的时代——看到了1750年的宏大人类帝国，那里有高耸的教堂、横渡海洋的船只、“室内”的概念，以及庞大的集体人类知识和发现的山一样的积累——他很可能会被吓死。
然后，如果死后的他也感到嫉妒，并想做同样的事情。如果他回到公元前12000年，再回去公元前24000年，找一个人带到公元前12000年，他向那个人展示一切，那个人可能会说：“好吧，你的重点是什么，谁在乎。”对公元前12000年的那个人来说，要获得同样的乐趣，他需要回到10万年前，找一个人，第一次向他展示火和语言。
要让一个人被带到未来并且因为所经历的震惊水平而死亡，他们必须前进足够多的年份以至于达到了一个“致死级别的进步”，或者说一个“致死进步单位”（DPU）。因此，在狩猎采集时代，一个DPU需要超过100,000年的时间，但在农业革命后的速率下，它只需要大约12,000年。工业革命后的世界变化如此之快，以至于1750年的人只需要前进几百年就能经历一个DPU。
这种模式——随着时间的推移，人类进步的速度越来越快——是未来学家雷·库兹韦尔所称的人类历史的加速回报定律。这是因为更先进的社会比不那么先进的社会以更快的速率进步——因为它们更先进。19世纪的人类比15世纪的人类拥有更多知识和更好的技术，因此不足为奇的是，人类在19世纪取得的进步远远超过了15世纪——15世纪的人类比不上19世纪的人类。
这种规律同样适用于更小的尺度。电影回到未来发行于1985年，“过去”的故事发生在1955年。在电影中，当迈克尔·J·福克斯回到1955年时，他对电视机的新奇、苏打水的价格、人们对尖锐电吉他音乐的不爱好以及俚语的变化感到措手不及。是的，那是一个不同的世界——但如果今天制作这部电影，而“过去”的故事发生在1985年，电影可能会有更多的乐趣，因为差异更大。那个角色将处于一个没有个人电脑、互联网或手机的时代——今天的马蒂·麦克弗莱，一个90年代末出生的青少年，会比电影中的马蒂在1955年更不适应1985年。
这是由于我们刚刚讨论过的加速回报法则。1985年到2015年之间的平均进步速度高于1955年到1985年之间的速度——因为前者是一个更先进的世界——所以在最近的30年里发生了比前30年更多的变化。
所以——进步正变得越来越大，发生得越来越快。这对我们的未来来说暗示了一些非常激烈的事情，对吧？
Kurzweil认为，如果按照2000年的进步速度计算，整个20世纪的进步将只需要20年的时间就能实现——换句话说，到了2000年，进步的速度是20世纪平均进步速度的五倍。他相信在2000年到2014年之间发生了另一个20世纪的进步，并且另一个20世纪的进步将在2021年之前发生，在短短七年内。几十年后，他认为一个20世纪的进步将在同一年内发生多次，甚至更晚时，在不到一个月内发生。总而言之，由于加速回报法则，库兹韦尔认为21世纪将实现1000倍的20世纪进步。
如果Kurzweil和其他同意他的人是正确的，那么我们可能会像1750年的那个人在2015年被震惊一样，对2030年感到震惊——也就是说，下一个“吓死单位”（DPU）可能只需要几十年——并且2050年的世界可能与今天的世界非常不同，以至于我们几乎无法认出。
这不是科幻小说。这是许多比你我聪明和知识渊博的科学家坚定地相信的东西——如果你看历史，这也是我们应该逻辑上预测的。
那么，为什么，当你听我说像“从现在起35年后的世界可能完全认不出来”这样的话时，你的想法是，“酷……但不太可能”？我们对未来荒谬预测持怀疑态度有三个原因：
1）在历史的长河中，我们习惯于线性思考。 当我们想象接下来30年的进步时，我们会回顾前30年的进步作为判断将来可能发生多少变化的指标。当我们思考21世纪世界将发生的变化程度时，我们只是简单地将20世纪的进步加到2000年的基础上。这就是我们1750年的那位朋友犯的错误，当他从1500年带来一个人，并期望像自己经历的那样让他感到震惊。对我们来说，直觉上更倾向于线性思考，而我们应该指数思考。如果有人对此有更深的见解，他们预测未来30年的进步可能不会只看过去30年，而是通过考虑当前的进步速度来判断。他们会更准确，但仍然有很大的偏差。为了正确思考未来，你需要想象事物以比现在更快的速度移动。
2）在考虑极近期历史的轨迹时，它通常会呈现出一种扭曲的故事。首先，即使是陡峭的指数曲线，当你只观察它的一小段时，也会看起来像是线性的，就像你近距离观察一个巨大圆圈的小段，它几乎看起来像一条直线一样。其次，指数增长并不是完全平滑和均匀的。库兹韦尔解释说，进步是以“S型曲线”发生的：
“S型曲线”是当一个新的范式席卷世界时，进步的浪潮所创造的。这条曲线经历三个阶段：
慢速增长（指数增长的早期阶段）
快速增长（指数增长的后期，爆炸性阶段）
特定范式成熟后的稳定期
如果你只关注非常近期的历史，你目前所在的S型曲线的部分可能会掩盖你对事物进步速度的感知。1995年到2007年之间的时间段见证了互联网的爆炸性增长，微软、谷歌和Facebook进入公众意识，社交网络的诞生，以及手机和智能手机的引入。那是第二阶段：S型曲线的快速增长部分。但2008年至2015年在技术前沿至少看起来不那么开创性。有人可能会审视最近几年来评估当前的进步速度，但这是忽略了更大的图景。实际上，一个新的巨大的第二阶段增长高潮可能正在酝酿中。
3）我们自己的经验让我们成为对未来固执的老人。我们基于个人经验来构建对世界的看法，而这些经验已经在我们的脑海中深深植入了最近过去增长速度作为“事物发生的方式”。我们的想象力也是有限的，它取决于我们的经验并用它来预测未来——但通常，我们所知道的根本没有给我们提供准确思考未来的工具。当我们听到一个与我们基于经验的事物运作方式相矛盾的预测时，我们的本能反应是这个预测一定是天真的。如果我告诉你，在这篇文章的后面，你可能活到150岁，或250岁，或者根本不会死，你的本能会是，“那太愚蠢了——如果有一件事我从历史上了解到的，那就是每个人最终都会死去。”是的，过去没有人能够不死。但在飞机发明之前，也没有人飞过飞机。
所以尽管当你阅读这篇文章时，你觉得“那不可能”感觉上可能是正确的，实际上这很可能是错误的。事实是，如果我们真正合乎逻辑并期望历史模式持续的话，我们应该得出结论，未来几十年将发生比我们直观预期要多得多的变化。逻辑也表明，如果一个行星上最先进的物种不断以越来越快的速度向前跳跃，某个时刻，他们会进行如此巨大的跳跃以至于完全改变了他们所知道的生活方式和他们对于作为一个人类意味着什么的认知——有点像进化不断朝着智能方向跳跃，直到最终它向人类做出了如此巨大的跳跃，以至于彻底改变了任何生物在地球上生活的意义。如果你花时间了解当今科学和技术领域正在发生的事情，你会开始看到很多迹象在悄悄暗示，我们目前所知的生活方式无法承受即将到来的跳跃。
通向超智能之路
什么是人工智能？
如果你像我一样，你可能曾经认为人工智能是一个愚蠢的科幻概念，但最近你已经开始听到一些严肃的人谈论它，并且你并不真正完全理解它。
很多人对人工智能这个术语感到困惑有三个原因：
1）将AI与电影联系起来。 星球大战。终结者。2001太空漫游。甚至是杰森一家。这些都是虚构的，机器人角色也是。所以这让人工智能在我们听起来有点虚构。
2） AI是一个广泛的话题。 它的范围从你手机里的计算器到自动驾驶汽车，再到未来可能戏剧性改变世界的某些东西。AI指的是所有这些事情，这让人感到困惑。
3）我们在日常生活中一直使用AI，但我们常常没有意识到那是AI。1956年创造“人工智能”这个词的约翰·麦卡锡抱怨“一旦它起作用，就没人再称它为AI了。” 因为这种现象，AI常常听起来更像是一个神话般的未来预言，而不是一个现实。同时，它使得AI听起来像是过去流行的概念，但从未实现。雷·库兹韦尔说，他听人们说AI在1980年代枯萎了，他将这比作“坚持认为互联网在2000年代初的点COM泡沫破裂后死亡。”
那么让我们澄清一些事情。首先，停止想象机器人。机器人是AI的容器，有时模仿人类形态，有时则不然——但AI本身是位于机器人内部的计算机。AI是大脑，而机器人是它的身体——如果它甚至有身体的话。例如，Siri背后的软件和数据是AI，我们听到的女性声音是那个AI的拟人化，根本没有机器人参与。
其次，你可能听说过“奇点”或“技术奇点”这个术语。这个术语在数学中被用来描述一种渐近线般的情况，正常规则不再适用。在物理学中，它用来描述一个现象，比如一个无限小、密集的黑洞，或者我们在宇宙大爆炸前紧紧挤在一起的那一点。同样，是正常规则不适用的情况。1993年，弗诺·文奇在一篇著名的论文中将这个术语应用于未来某一时刻，当我们的技术智能超越我们自己的智能——对他来说，这是一个生活方式将永远改变，正常规则将不再适用的时刻。雷·库兹韦尔稍微模糊了这个概念，他将奇点定义为加速回报法则达到极端速度的时候，技术进步以看似无限的速度发生，并且之后我们将生活在一个全新的世界中。我发现许多今天的AI思想家已经停止使用这个术语，而且它本来就令人困惑，所以我在这里不会太多使用它（即使我们将专注于那个理念）。
最后，虽然AI有许多不同类型或形式，因为AI是一个广泛的概念，我们需要思考的关键类别是基于AI的能力级别。有三个主要的AI能力级别类别：
人工智能等级1）狭义人工智能 (ANI)：有时也被称作弱AI，人工狭义智能是指专注于一个领域的AI。有的AI可以在国际象棋中击败世界冠军，但那是它唯一能做的事情。如果你让它找出在硬盘上更好的存储数据的方法，它就会一脸茫然。
人工智能等级2）通用人工智能 (AGI)：有时也被称为强AI 或人类水平AI，人工通用智能指的是一台在各方面都和人类一样聪明的计算机——一台能执行任何人类能做的智能任务的机器。创建AGI是一个非常艰巨的任务，我们还没有做到。琳达·戈特弗雷德森教授描述智能为“一个非常通用的心理能力，包括其他事物，涉及到推理、计划、解决问题、抽象思考、理解复杂概念、快速学习以及从经验中学习的能力。”AGI能像你一样轻松地做到所有这些事情。
人工智能等级3）超级人工智能 (ASI)：牛津哲学家和领先的AI思考者尼克·博斯特罗姆定义超智能为“在几乎每个领域（包括科学创造力、一般智慧和社交技能）都比最好的人脑聪明得多的智能。”人工超智能的范围从比人类稍微聪明一点的计算机到在各方面都聪明上万亿倍的计算机。ASI是人工智能话题如此引人注目的原因，也是为什么在这些文章中“不朽”和“灭绝”这两个词会出现多次。
到目前为止，人类在许多方面已经征服了最低等级的AI——ANI，它无处不在。AI革命是从ANI，经过AGI，到ASI的道路——这是一条我们可能会也可能不会存活下来的道路，但无论如何，它都会改变一切。
让我们仔细看看领域内的领先思想者认为这条道路是什么样的，以及为什么这场革命可能比你想象的要快得多：
我们目前的位置——一个运行在ANI上的世界
人工狭义智能是在特定事物上等于或超过人类智能或效率的机器智能。以下是一些例子：
汽车充满了ANI系统，从计算何时启动防锁死制动系统的计算机到调整燃油喷射系统参数的计算机。谷歌目前正在测试的自动驾驶汽车将包含强大的ANI系统，使它能够感知并对周围世界做出反应。
你的手机就是一个小型的ANI工厂。当你使用地图应用导航、从Pandora接收定制音乐推荐、查看明天的天气、与Siri交谈或进行其他几十种日常活动时，你就在使用ANI。
你的电子邮件垃圾过滤器是典型的ANI类型——它初始时就装载了如何判断什么是垃圾邮件的智能，然后它会根据你的特定偏好学习并调整其智能。Nest恒温器也做着同样的事情，它开始学习你的典型日程并相应地作出反应。
你知道那种在亚马逊上搜索商品后，然后在不同网站上看到它被推荐给你的商品，或者当Facebook不知怎的知道谁适合你添加为朋友吗？那是一系列ANI系统的网络，它们共同工作，互相通报你是谁以及你喜欢什么，然后使用这些信息决定向你展示什么内容。亚马逊的“买了此商品的人也买了…”功能也是如此——它的工作是从数百万消费者的行为中收集信息，并巧妙地将这些信息综合起来，以促使你购买更多商品。
谷歌翻译是另一个经典的ANI系统——在狭窄的任务上做得令人印象深刻。语音识别也是另一个，有一些应用程序利用这两个ANI合作，让你用一种语言说出一个句子，手机则输出另一种语言的相同句子。
当你的飞机降落时，决定它应该去哪个登机口的不是人类。就像确定你机票价格的也不是人类。
世界上最好的国际跳棋、象棋、拼字游戏、双陆棋和黑白棋的选手现在都是ANI系统。
谷歌搜索是一个庞大的ANI大脑，它使用极其复杂的方法来排名页面并决定特别向你展示什么。Facebook的新闻推送也是如此。
这些仅仅是消费者领域。在军事、制造和金融（算法高频AI交易员在美国市场上交易的股票超过一半6）、以及在专家系统中，如帮助医生进行诊断，最著名的是IBM的沃森，它包含足够的事实并足够理解Trebek的言语以足以轻松击败最成功的危险边缘冠军。
现在的ANI系统并不特别令人恐惧。最坏的情况是，一个出现故障或编程不良的ANI可能会导致孤立的灾难，如摧毁电网、引发危险的核电站故障或触发金融市场灾难（如2010年闪电崩盘，当时一个ANI程序对意外情况做出了错误反应，导致股市短时间内暴跌，市值损失了1万亿美元，其中只有一部分在错误被纠正时恢复）。
但虽然ANI没有造成存在性威胁的能力，我们应该将这个越来越大且复杂的相对无害的ANI生态系统视为即将到来的改变世界的飓风的前兆。每一个新的ANI创新都在悄悄地为通往AGI和ASI的道路上添砖加瓦。或者像亚伦·塞恩斯Aaron Saenz看到的：
我们这个世界的狭义人工智能，就像早期地球上原始泥土中的氨基酸——那些构成生命的无生命元素，在一个不经意的瞬间，奇迹般地苏醒了。
从狭义人工智能到通用人工智能的道路
为什么这么难？
没有什么能像了解创建一台和我们一样聪明的计算机的难度那样，使你对人类智能充满敬意。建造摩天大楼、将人类送入太空、弄清楚宇宙大爆炸的细节——这些都比理解我们自己的大脑或制造一样酷的东西要容易得多。就目前而言，人类大脑是已知宇宙中最复杂的物体。
有趣的是，尝试建造AGI（在一般情况下都和人类一样聪明的计算机，而不仅仅是在一个狭窄的专业领域）的难点并不是你直觉上会想到的那些。构建一台能在一秒内将两个十位数相乘的计算机——极其容易。构建一台能看着一只狗并回答它是狗还是猫的计算机——特别难。制造一台能在国际象棋上战胜任何人的AI？已经做到了。制造一台能读懂六岁孩子绘本中一个段落并不仅仅是识别单词而且理解它们意义的AI？谷歌正在花费数十亿美元试图做到这一点。对计算机来说，难的事情——如微积分、金融市场策略和语言翻译——是异常简单的，而对人来说简单的事情——如视觉、运动、移动和感知——对计算机来说却是异常困难的。或者，如计算机科学家唐纳德·克努斯所说：“AI现在几乎在所有需要‘思考’的事情上都取得了成功，但在大多数人和动物‘不假思索’就能做到的事情上失败了。”
当你思考这些问题时，你很快就会意识到那些对我们来说看似简单的事情实际上是难以置信的复杂，它们之所以看起来简单是因为这些技能已经被我们（和大多数动物）通过数亿年的动物进化优化过了。当你伸手去拿一个物体时，你的肩膀、肘部和手腕中的肌肉、肌腱和骨骼会立即执行一系列物理运算，与你的眼睛协同工作，让你的手能够在三维空间中直线移动。这对你来说看似不费力，因为你的大脑中有执行这些动作的完美软件。同样的道理也适用于为什么恶意软件不懂斜体字识别测试看起来很“笨”——那是因为你的大脑能够做到这一点，实在是太令人印象深刻了。
另一方面，对生物来说，进行大数乘法或下国际象棋是新活动，我们没有时间进化出这方面的能力，所以计算机不需要太大努力就能击败我们。想想看——你宁愿构建一个能进行大数乘法的程序，还是一个能理解B的本质，以至于你可以展示给它看任何一种数以千计的不可预测字体或手写的B，它都能立刻识别出这是B的程序？
一个有趣的例子——当你看这个时，你和计算机都可以弄清楚这是一个有两种不同阴影的矩形，交替排列
目前为止是平手。但如果你拿起黑色部分并展示整个图像……
...你可以轻松地详细描述各种不透明和半透明的圆柱、板条和三维角落，但计算机在这方面会失败得很惨。它只能描述它所看到的——几种不同阴影的二维形状——这实际上也是图像所呈现的内容。你的大脑正在做大量复杂的处理来解释图片试图表达的暗示深度、阴影混合和室内光线。而看下面这张图片，计算机看到的是一个二维的白色、黑色和灰色拼贴，而你很容易就看出它实际上是什么——一张全黑的三维岩石的照片：
我们刚才提到的所有内容仍然只是接收静态信息并处理它。要达到人类水平的智能，计算机必须理解诸如微妙面部表情之间的差异，诸如高兴、如释重负、满足、愉快和开心之间的区别，以及为什么勇敢的心很棒但爱国者很糟糕的原因。
这非常令人生畏。
那么我们怎样才能实现它呢？
创建AGI的第一个关键：提高计算能力。
AGI要成为可能，计算机硬件的功率增加绝对是必要的。如果AI系统要与大脑一样智能，它需要达到大脑原始计算能力的水平。
表达这种能力的一种方式是大脑可能管理的每秒总计算次数（cps），你可以通过计算大脑每个结构的最大cps然后将它们全部加起来得出这个数字。
雷·库兹韦尔通过采用一个专家对某个结构cps的估计以及该结构的重量与整个大脑重量的比例，然后按比例乘以估计总量的方法提出了一种捷径。听起来有点不稳定，但他用不同区域的各种专业估计做了很多次，总数总是达到相同的范围——大约10^16，或者10万亿cps。
目前，世界上最快的超级计算机，中国的天河-2，实际上超过了这个数字，达到了大约34万亿cps。但天河-2也有缺点，它占地720平方米，使用24兆瓦的电力（大脑仅使用20瓦），建造成本为3.9亿美元。对于广泛使用，甚至是大多数商业或工业使用来说还不太适用。
库兹韦尔建议我们通过查看你可以用1000美元购买多少cps来思考计算机的状态。当这个数字达到人类水平——10万亿cps时——那就意味着AGI可能会成为生活中一个非常真实的部分。
摩尔定律是一个历史上可靠的规则，世界上最大的计算能力大约每两年翻一番，这意味着计算机硬件的进步，就像历史上人类的一般进步一样，是指数增长的。看看这如何与库兹韦尔的cps/1000美元的衡量标准相关，我们目前大约处于10万亿cps/1000美元，完全符合这个图表预测的轨迹：
所以，现在价值1000美元的计算机正在击败老鼠的大脑，并且它们大约达到了人类水平的千分之一。这听起来不多，直到你记得我们在1985年大约是人类水平的万亿分之一，在1995年是十亿分之一，在2005年是百万分之一。到了2015年达到千分之一的水平，这意味着我们正好赶上了节奏，有望在2025年获得一台能与大脑媲美的可负担计算机。
因此，在硬件方面，实现AGI所需的原始计算力现在在中国已经技术可行，我们将在10年内准备好推出价格合理、性能强大的AGI级硬件。但是，仅有原始计算能力并不足以使计算机具备通用智能——下一个问题是，我们如何将人类级别的智能带到这些强大的计算能力中？
创建AGI的第二个关键：使其变得智能。
这是棘手的部分。事实是，没有人真正知道如何使它变得聪明——我们仍在辩论如何使计算机达到人类智能水平，并能识别什么是狗、奇怪的写法B和平庸的电影。但是有许多看似遥不可及的策略存在，而且总有一天，其中一个策略会奏效。以下是我遇到的三种最常见的策略：
1）抄袭大脑。
这就像科学家努力研究班上坐在他们旁边的孩子为何如此聪明，并且在测试中总是表现出色，尽管他们勤奋学习，但成绩却远不及那个孩子，然后他们最终决定“去他的，我只是要抄那个孩子的答案。”这是有道理的——我们在试图构建一个超级复杂的计算机时遇到了难题，而我们的头脑里恰好有一个完美的原型。
科学界正在努力逆向工程化大脑，以弄清楚进化是如何制造出这样了不起的东西的——乐观估计认为我们可以在2030年做到这一点。一旦我们做到了，我们就会知道大脑如何如此强大和高效地运行的所有秘密，我们可以从中得到启发并窃取其创新。计算机架构模仿大脑的一个例子是人工神经网络。它起初是由晶体管“神经元”网络组成，通过输入和输出彼此连接，它一无所知——就像一个婴儿的大脑。它“学习”的方式是尝试执行一个任务，比如手写识别，起初它对每个字母的解读尝试是完全随机的。但当它被告知某些东西做对了时，发生该答案的路径上的晶体管连接就会被加强；当它被告知做错了时，那些路径的连接就会被削弱。经过大量这样的试验和反馈，网络自己形成了聪明的神经路径，机器就为任务优化了。大脑的学习方式有点像这样，但方式更加复杂，随着我们继续研究大脑，我们正在发现利用神经电路的新巧思。
更极端的剽窃策略被称为“全脑仿真”，其目标是将真实大脑切成薄层，扫描每一层，使用软件组装出精确的重建的三维模型，然后在强大的计算机上实现该模型。然后我们就会有一台电脑，它能做大脑所能做的一切——它只需要学习和收集信息。如果工程师做得非常好，他们能够以如此精确的准确度仿真真实的大脑，以至于一旦大脑结构被上传到计算机后，大脑的完整个性和记忆将保持不变。如果大脑属于Jim，在他去世前的样子，计算机现在就会作为Jim醒来（来源链接），它将是一个强大的人类级别的AGI，我们现在可以开始工作，将Jim转变成一个难以想象的聪明的ASI，他可能会对此非常兴奋。
我们离实现全脑仿真有多远？目前为止，我们还没有最近能够仿真一个长1毫米的扁虫大脑，它总共只有302个神经元。人类大脑包含1000亿个神经元。如果这让它看起来像一个无望的项目，请记住指数进展的力量——现在我们已经征服了微小的虫子大脑，不久后可能会仿真一个蚂蚁的大脑，然后是老鼠的大脑，突然这将看起来更加合理。
2）尝试让进化再次发生，但这次是为了我们。
所以，如果我们认为聪明孩子的考试太难抄了，我们可以尝试复制他学习考试的方式。
以下是我们所知道的。构建一台与大脑一样强大的计算机是可能的——我们自己大脑的进化就是证明。如果大脑太复杂，我们无法仿真，我们可以尝试仿真进化。事实上，即使我们可以仿真大脑，那可能就像尝试通过复制鸟的翅膀拍动动作来构建飞机——通常，机器最好是使用全新的、面向机器的方法设计的，而不是精确模仿生物学。
那么我们如何模拟进化来构建AGI呢？这种方法称为“遗传算法”，其工作原理大致如下：将会有一个反复发生的性能评估过程（就像生物生物“表现”通过生活并通过是否能够繁殖来“评估”一样）。一组计算机将尝试执行任务，最成功的计算机将通过将它们各自编程的一半合并在一起到一个新计算机中来繁殖。不成功的计算机将被淘汰。经过许多许多次迭代，这个自然选择过程将产生越来越好的计算机。挑战将是创建一个自动化的评估和繁殖周期，以便这个进化过程可以自行运行。
复制进化的缺点是进化喜欢花费十亿年的时间来做事情，而我们希望在几十年内做到这一点。
但我们有很多优势。首先，进化没有远见，工作是随机的——它产生的无益突变多于有益的，但我们将控制这个过程，使其只受有益的故障和针对性调整的驱动。其次，进化不针对任何事物，包括智力——有时环境甚至可能选择反对更高的智力（因为它使用了大量的能源）。另一方面，我们可以特别指导这个进化过程增加智力。第三，为了选择智力，进化必须在其他方面进行创新以促进智力——比如改进细胞产生能量的方式——当我们可以去除那些额外的负担并使用像电力这样的东西。毫无疑问，我们会比进化快得多，但我们是否能够足够改进进化，使这成为一种可行的策略，这仍然是不清楚的。
3）让这整个问题成为计算机的问题，而不是我们的问题。
这是当科学家绝望时尝试让测试自己完成的时候。但这可能是我们拥有的最有希望的方法。
想法是我们将构建一台计算机，它的两个主要技能将是对AI进行研究和编写自身的变化——使其不仅能学习，而且能改进自己的架构。我们将教计算机成为计算机科学家，以便他们能够自行启动他们的发展。这将是他们的主要工作——弄清楚如何让自己变得更聪明。稍后再详细介绍这个问题。
所有这些可能很快就会发生
硬件的快速进步和软件的创新实验同时发生，人工通用智能（AGI）可能会迅速且出乎意料地接近我们，主要有两个原因：
指数增长是强烈的，看似蜗牛步的进步很快就能迅速向上攀升——这个GIF很好地说明了这个概念：
当谈到软件时，进步可能看起来很慢，但是一个顿悟可能会瞬间改变进步的速度（有点像人类曾经认为宇宙是地心的时代，科学计算宇宙是如何工作的有困难，但后来发现宇宙是日心的，突然间一切变得容易得多）。或者，当谈到像自我改进的计算机时，我们可能看起来很远，但实际上可能只需对系统进行一次微调，就能使其效率提高1000倍，并迅速提升到人类智能水平。
从通用人工智能到超级人工智能的道路
在某个时候，我们将实现AGI——具有人类级别普遍智能的计算机。只是一群人和计算机在平等中共同生活。
哦，实际上一点也不是。
事实是，即使是智力和计算能力与人类相同的AGI，也仍将比人类具有显著优势。比如：
硬件：
速度。 大脑的神经元最高速度大约为200 Hz，而今天的微处理器（在我们达到AGI时会比现在快得多）运行速度为2 GHz，或者说是我们神经元速度的1000万倍。大脑的内部通信速度大约为120米/秒，远远不及计算机以光速进行光通信的能力。
大小和存储。 大脑的大小被我们头骨的形状锁定，而且它也不能变得更大，否则120米/秒的内部通信速度将需要太长时间从一个大脑结构传递到另一个。计算机可以扩展到任何物理大小，允许更多硬件投入使用，更大的工作记忆（RAM），以及长期记忆（硬盘存储），其容量和精度都远远超过我们自己的。
可靠性和耐用性。 不仅是计算机的记忆会更精确。计算机晶体管比生物神经元更精确，并且不太可能退化（如果退化了可以修复或替换）。人类大脑也容易疲劳，而计算机可以不停地运行，在全天候的峰值性能下。软件：
可编辑性、可升级性和更广阔的可能性。 与人脑不同，计算机软件可以接收更新和修复，并可以轻松实验。升级也可以扩展到人类大脑弱点的领域。人类视觉软件非常先进，而其复杂工程能力却相当低级。计算机可以在视觉软件方面与人类匹敌，但也同时在工程和任何其他领域实现同样的优化。
集体能力。 人类在构建庞大的集体智能方面超越了所有其他物种。从语言的发展和形成大型密集社区开始，通过书写和印刷的发明，现在通过互联网等工具得到加强，人类的集体智能是我们能够远远领先于所有其他物种的主要原因之一。计算机在这方面将比我们做得更好。运行特定程序的全球AI网络可以定期与自己同步，以便任何一台计算机学到的任何东西都能立即上传到所有其他计算机。该群体还可以作为一个整体团队来实现一个目标，因为不会像人类人口中那样必然存在不同的意见和动机及自我利益。
AI，很可能通过被编程自我改进来达到AGI，不会将“人类级智能”视为某种重要的里程碑——这只是从我们的角度来看的相关标记——并且没有任何理由在我们的水平上“停止”。考虑到即使是与人类智力等同的AGI也会比我们拥有优势，显然它只会在达到人类智力的瞬间之后迅速前进到超越人类智力的领域。
当这种情况发生时，可能会让我们大吃一惊。原因是从我们的角度来看，A)尽管不同种类动物的智力不同，但我们意识到的任何动物智力的主要特点是它远低于我们的，B)我们认为最聪明的人比最愚蠢的人聪明得多。有点像这样：
所以，当人工智能在智力上迅速向我们靠近时，我们会认为它只是变得更聪明，对于一个动物来说。然后，当它达到人类最低能力——尼克·博斯特罗姆（Nick Bostrom）使用“村庄白痴”这个术语——我们会惊讶地说：“哦哇，它像一个愚蠢的人类。可爱！”唯一的问题是，在宏大的智力光谱中，所有人类，从村庄白痴到爱因斯坦，都处在一个非常小的范围内——所以仅仅在达到村庄白痴的水平并被宣布为AGI后，它会突然变得比爱因斯坦更聪明，我们也不会知道发生了什么：
那之后会发生什么？
我希望你享受正常的时间，因为这是话题变得不正常和可怕的时候，从现在开始将一直是这样。我想在这里暂停一下，提醒你我将要说的每一件事都是真实的——真实的科学和来自一大批最受尊敬的思想家和科学家的未来预测。继续记住这一点。
无论如何，正如我上面所说，我们目前的大多数模型都假设AI通过自我改进达到AGI。一旦达到AGI，即使是通过不涉及自我改进的方法形成和成长的系统，现在也足够聪明，可以开始自我改进，如果他们愿意的话。
现在我们来到一个激烈的概念：递归自我改进。它的工作原理是这样的——
一个AI系统处于某种水平——比方说人类的村庄白痴——被编程为提高自己的智力。一旦它做到了，它就变得更聪明——也许这时它已经达到爱因斯坦的水平——所以现在，它在用爱因斯坦级别的智力工作来提高智力时，它能更容易地并且能做出更大的飞跃。这些飞跃使它比任何人类都聪明得多，允许它做出更大的飞跃。随着飞跃的增大和加速发生，AGI在智力上迅速飙升，很快达到ASI系统的超智能水平。这被称为智力爆炸，它是加速回报法则的终极例子。
关于AI将达到人类级别智能的时间有一些争议。在对数百位科学家的调查中，他们认为我们更可能不可能在2040年之前达到AGI的中位数年份——那只是从现在起25年的时间，这听起来并不那么久，直到你考虑到许多在这个领域的思想家认为从AGI到ASI的进步可能发生得非常快。就像这样可能会发生：
AI系统需要数十年时间才能达到低水平的普遍智能，但它终于做到了。一台计算机能够像一个四岁的人类儿童一样理解周围的世界。突然之间，在达到那个里程碑的一小时内，系统输出了统一广义相对论和量子力学的伟大物理理论，这是没有一个人类能够明确做到的。在那之后的90分钟，AI变成了ASI，比人类智能高出170,000倍。
我们无法遥远地理解那种程度的超智能，就像大黄蜂无法理解凯恩斯经济学一样。在我们的世界里，聪明意味着130的IQ，愚蠢意味着85的IQ——我们没有一个词来形容IQ为12,952的情况。
我们所知道的是，人类在这个地球上的绝对统治表明了一个清晰的规则：随智力而来的是力量。这意味着当我们创造出ASI时，它将成为地球生命历史上最强大的存在，所有生物，包括人类，将完全随其意愿行事——而这可能在接下来的几十年内发生。
如果我们渺小的大脑能够发明wifi，那么比我们聪明100倍、1000倍甚至10亿倍的东西应该毫无问题地控制世界上每一个原子的位置，以任何它喜欢的方式，随时——我们认为是魔法的一切，我们想象中至高无上的神拥有的每一种力量对于ASI来说就像我们开关灯一样平常。创造逆转人类衰老的技术，治愈疾病和饥饿甚至死亡，重新编程天气以保护地球上生命的未来——这一切突然变得可能。同样可能的是地球上所有生命的即时结束。就我们而言，如果一个ASI诞生，现在地球上就有了一个全能的神——而对我们来说最重要的问题是：
第一部分完……
参考资料
本文由最新GPT4翻译
①“空中发射大炮”这个表达是在描述1750年的远距离通信手段。在那个时代，没有现代通信技术，人们为了传递信息可能会使用一些极端的方法，如使用炮声来传递信号或警告。这是因为炮声可以传得很远，所以在一些情况下，人们会通过发射大炮来引起远处人的注意，实现远距离的“通信”。这种方式虽然在今天看来非常原始和粗糙，但在没有电话、电报或无线电的年代，这是一种可行的通讯手段。这句话旨在强调时间旅行者带着来自过去的人穿越到现代时，他对于现代通信手段的惊异感。
②“依靠干草” 这句话意在比喻1750年的交通工具，如马车，实际上是以干草为"燃料"，因为那时的交通工具主要是马匹拉动的，而马匹以干草为食。所以，这并不是字面意义上的“依靠干草”，而是用一种幽默的方式来指出，与现代以石油为燃料的交通工具相比，1750年的交通方式显得非常原始和有限。这种表达方式用于强调过去与现代在技术发展上的巨大差异。
③“公路上飞驰的闪亮胶囊”这个表述是一种形象化的语言，用来描述现代汽车。在1750年的人眼中，现代的汽车可能就像是不可思议的、光滑闪亮的胶囊一样在公路上快速移动。这种描述是为了捕捉从过去到现在技术变革带来的惊奇感。这是一个试图通过时代对比来强调工业和技术发展进步的方式。
④“神奇巫师矩形方块”这个词是对现代智能手机或平板电脑的一种创意性比喻。它试图用一种幽默和夸张的方式来描述这些设备的强大功能，尤其是对那些从来没有见过此类技术的人来说。这种描述通过将现代设备与魔法物品相提并论，来强调其令人难以置信的技术进步和多功能性。在文学和创造性写作中，这样的比喻是常见的，旨在给读者带来新鲜的视角和对现代科技的思考。
内容翻译自：http://waitbutwhy.com
原文地址：The AI Revolution: Road to Superintelligence(https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html)
