维也纳科技大学（也称维也纳工业大学，以下简称TU Wien）的研究表明：未来，人工智能将在医学领域发挥极其重要的作用，并且某些方面目前已经超越了人类。比如TU Wien开发的人工智能可以在血液中毒的情况下建议适当的治疗步骤。在诊断方面，他们已经进行了一些成功的测试：例如，计算机可以学习根据图像是否显示病理变化来非常准确地对其进行分类。然而，训练人工智能来检查患者随时间变化的状况并计算给出治疗建议会更加困难——这正是维也纳科技大学与维也纳医科大学合作取得的成果。TU Wien借助来自各医院重症监护病房的大量数据，开发了一种人工智能，可以为因败血症而需要重症监护的病人提供治疗建议。分析表明，人工智能已经超越了人类决策的质量，但讨论社会框架下明确的法律规则也很迫切。1、充分利用现有数据“在重症监护病房中，全天候收集大量不同的数据。患者会受到持续的医学监测。我们想研究这些数据是否可以比以前更好地使用，”研究所的 Clemens Heitzinger 教授说。除了分析与科学计算，他还是 TU Wien 跨学院“人工智能和机器学习中心”的联合主任。Clemens Heitzinger 教授医务人员会依据有充分根据的规则来做出决定，大多数时候，他们非常清楚必须考虑哪些参数才能为重症病人提供最好的护理。然而，计算机可以更为轻松地考虑比人类更多的参数——在某些情况下，这可以导致更好的决策。 2、计算机作为规划代理 Clemens Heitzinger 说：“在我们的项目中，我们使用了一种称为强化学习的机器学习形式，这不仅仅是简单的分类——例如，将大量图像分成显示肿瘤的图像和不显示肿瘤的图像——而是依据时间变化的进展，关于某个患者可能会经历的发展过程。从数学上讲，这是完全不同的东西。医学领域在这方面的研究很少。”计算机成为做出决定的代理人：如果病人身体健康，计算机就会得到“奖励”。如果病情恶化或死亡，计算机就会受到“惩罚”。计算机程序的任务是通过采取行动来最大化其虚拟“奖励”。通过这种方式，可以使用广泛的医学数据来自动确定实施特别高成功概率的策略。 3、已经比人类好 维也纳医科大学的 Oliver Kimberger 教授说：“脓毒症是重症监护医学中最常见的死亡原因之一，对医生和医院构成了巨大挑战，因为早期发现和治疗对于患者的生存率至关重要。” “到目前为止，该领域的医学突破很少，这使得寻找新的治疗方法和方法变得更加紧迫。因此，研究人工智能在多大程度上有助于改善医疗保健在这里尤为有趣。使用机器学习模型和其他人工智能技术是改进败血症诊断和治疗的机会，最终增加患者存活的机会。”分析表明，某些方面人工智能的能力已经超越了人类：“现在人工智能策略的治愈率高于纯人类决策。在我们的一项研究中，90 天的治愈率增加了约 3% 至约88%，”Clemens Heitzinger 教授说。 当然，这并不意味着人们应该将重症监护病房的医疗决策完全交给计算机。但人工智能可能会作为床边的附加设备运行——医务人员可以查阅它，并将自己的评估与人工智能的建议进行比较。这种人工智能在教育中也非常有用。 4、讨论法律问题是必要的“然而，这引发了重要问题，尤其是法律问题，”Clemens Heitzinger 教授说。“人们可能会首先想到谁将对人工智能所犯的任何错误承担责任的问题。但也有相反的问题：如果人工智能做出了正确的决定，但人类选择了不同的治疗方案，病人因此受到伤害会怎样？ 医生是否会面临这样的指责：相信人工智能会更好，因为它具有丰富的经验？还是应该随时忽略计算机的建议是人类的权利？”研究项目表明：人工智能已经可以通过当今的技术成功应用于临床实践——Clemens Heitzinger教授对此深信不疑，但仍然迫切需要讨论社会框架下明确的法律规则。毅铭鉴科5188获赞 755粉丝一个有温度、有态度的科技内容创作者！}

人工智能的未来之路演讲人：刘嘉 演讲地点：清华大学人文清华讲坛 演讲时间：2022年11月　　演讲人简介：　　刘嘉，麻省理工学院博士，心理学家，长期从事心理学、脑科学与人工智能研究。清华大学基础科学讲席教授、心理学系系主任、清华大学脑与智能实验室首席研究员、北京智源人工智能研究院首席科学家。　　人的认知与大脑构造　　为什么人如此难以理解？为什么这个世界总是让我们产生很多困惑？这是人类从有文明开始就一直存在的问题，道理其实非常简单。　　首先，我们看见的世界只是这个世界中非常小的一部分，我们忽略了绝大部分的东西。　　我们在清华做过一个小实验：一位戴黑色渔夫帽的女士在清华问路，在她问路的时候，我们安排一块隔板从戴黑色渔夫帽的女士和被问路的人之间穿过。当板子过来时，原来问路的女士抬着板子走开了，而原来抬板子过来的另一位戴蓝色渔夫帽的女士留了下来，由她继续问路。在7个被问路的人中，只有一个人注意到了提问人的变化。这个小实验的问路场景里，人们其实只看见了世界上非常小的一部分，由于这些是不重要的信息，人们就容易忽略掉这些信息。　　但更可能发生的是，人们的认知还会扭曲这个世界。比如图1这一组图里，有两个拼在一起的方块图，一个颜色深一点，一个颜色浅一点，还有一个圆环，它的灰度介于两者之间，圆环左右两半颜色一样。但如果把两个方块图分开，大家一般都会觉得圆环的颜色一边变浅了，一边变深了，事实上，它们的颜色仍是完全一样的。再把这个圆环分开，变成上下移动，这时看见的东西有立体感了，好像是深灰色的东西盖上了一层浅色的毛玻璃，以及浅色的板盖上了深色的毛玻璃。　　我们无时无刻不在观察这个世界，但又无时无刻不在扭曲这个世界，这到底是为什么？　　这其实取决于我们的视觉系统。假如外部世界存在一个绿苹果，它会以大约100亿比特/秒的信息量进入我们的视网膜，视网膜通过约100万个神经连接，连接到视觉皮层，这个时候我们的信息流就从百亿比特/秒变成600万比特/秒；经过视觉初级皮层加工再传到高级皮层来决定看到的东西是什么时，信息流又变成了100比特/秒。这时信息量衰减了1亿倍。可见，当我们做决策时，我们获得的信息其实是非常有限的，所以我们就需要构造出新的东西，把缺失的信息补上，而我们的大脑就像魔术师一样来弥补这些缺失的信息。这一方面可以解释为什么有很多东西我们看不见——因为传输过程中已经被人脑衰减掉、过滤掉了；同时也可以解释，为什么有的人看见一个绿苹果会认为是红苹果——因为这个重构的过程是创造性的，不是简单复制。正是基于这个构造，我们也可以把一个苹果看成一个梨子，这是我们大脑构造的过程，是一个正常的现象。　　人脑重构的意义　　为什么我们的大脑不能像摄像机、照相机一样忠实客观地反映物理世界，为什么非要自己来重构这个世界？这样的人脑重构究竟有什么好处？　　正如康德所言：“没有感觉支撑的知识是空的，没有知识引导的感觉是瞎的。”这句话的前半句说的是，如果没有外部的输入，我们很难构建自己的心理世界，但我想强调的是下半句“没有知识引导的感觉是瞎的”。如果你不知道你看的是什么东西，那你就等于什么都看不见。这是因为，这个世界是模棱两可的，需要我们去构造，把我们的理解加进去，只有这样我们才能真正知道这个世界究竟发生了什么。　　与理解相比，更重要的是创造。当大脑没有被外部信息填满而留下空间时，我们能够在这空间里创造出自己想要创造的东西。正如《小王子》的作者圣·德克旭贝里所言：“一堆岩石在有人对着它思考时就不再是岩石了，它将化身为大教堂。”这就是人类了不起的创造——当我们的祖先跋山涉水来到一片荒原，他们看见的不是一堆乱石，而是未来的家园。所以，在过去的300万年里，人和猴子分开进化，人的大脑体积增加了3倍；但是，这体积并不是平均增加的，增加最大的地方在额叶：与200万年前的祖先能人相比，我们的头骨往前突出，以容纳更大体积的额叶，而强大的额叶使我们能构造出不存在的东西。比如我们的祖先准备去打猎，不用等看见猎物才做出反应，他只需要提前想象狩猎的情景，就可以把一切安排好。如此一来，人可以把未来在脑海里“演”一遍，构建出一个个可能的未来，从而对未来做出行动方案，这是人类能够战胜其他比我们更强大更凶猛的动物，成为万物之灵的关键。这也印证了荀子的一句话：“然则人之所以为人者，非特以二足而无毛也，以其有辨也。”　　重构心理世界的知识从何而来　　人脑对世界的构造，总是需要先验知识，而先验知识一部分来自基因的烙印。换言之，我们来到这个世界时并不是一块白板，而是带着32亿年的智慧来的，这些智慧就印刻在基因中。　　我们曾经用我校心理系女教授和女博士后的照片，做了一个有趣的小实验：如果把她们的脸全部叠加起来，做一张“平均脸”，大家普遍反馈说这张“平均脸”充满两个字：“睿智”。“平均脸”所代表的意思是什么？人脸其实是我们的基因图谱——我们的基因都写在脸上，当我们把脸平均起来之后，得到的是这18位老师平均的基因，平均的基因代表突变很少。而基因一旦突变，大概率是有害的，基因突变越少，说明基因越好，携带遗传性疾病的概率就越低，这就是为什么人们普遍会觉得“平均脸”更好看、更符合我们的审美。　　既然脸是我们的基因图谱，对生存来讲如此重要，我们便需要发展出非常强大的看脸能力，即面孔识别。我们研究小组已经通过实验证明，面孔识别能力也写在人类的基因里。我们找了两类双胞胎，一种是同卵双胞胎（由同一个受精卵发育而来），基本上具有100%相同的基因。另外一种是异卵双胞胎（由两个独立的受精卵发育而来），基因遗传物质的平均遗传度大概是50%。通过比较他们在面孔识别上的能力，我们发现同卵双胞胎在面孔识别任务上的相似程度更高，即面孔识别的能力受遗传因素的影响。这一点也可以从我们的另一研究得到验证，即面孔失认症或者大家说的“脸盲”。　　在图2显示的这个遗传树里，只要孩子有面孔失认症，他的父母中大概率有一个也是面孔失认症。第二幅图里有一个有趣的三角，三角形底边的两个端点代表的就是同卵双胞胎。当时我们在大学里测试了一个女孩，发现她有面孔失认症，那女孩说她有一个同卵双胞胎姐姐，我们把她姐姐请来一测，发现果然也是面孔失认症。②　　“自尊”对大脑的影响　　除了看别人的面孔，我们也常常照镜子看自己。最喜欢照镜子的人据说是纳西索斯，他是古希腊神话里的超级帅哥，对自己的面孔着了迷，每天趴在溪边，通过水的倒影欣赏自己的绝世美颜。心理学由此称这种现象为“纳西索斯情结”，意思是一个人高度自恋，对自己爱到了极致。　　其实对自己的爱，对自己面孔的欣赏，背后反映的是一个非常重要的特质，即人类的自尊。自尊是个体对自己的总体态度，人分成高自尊和低自尊两种。　　什么是高自尊？这里有四个问题：1.你是否认为你是一个有价值的人？2.你是否认为你拥有很多美好的品质？3.你是否对自己满意？4.你是否对自己持肯定态度？　　如果你对每道问题的回答都是“是”，那么你就是高自尊的人。“自尊”在我们面临困境时能提供极大的帮助。　　当一个人长期经受压力和苦难，身体会变得差，心理幸福感会低下，更糟糕的是，认知发展会受损，认知能力会比别人低很多，体现在大脑上就是海马体会受到极大的损伤，而海马体是人学习、记忆、空间导航的中枢。　　自尊在压力源和心理世界之间建立起一道牢不可破的防线，它就像勇敢的士兵一样挡在人的心理世界面前，帮人把压力、负性事件挡在外面，让人能够正常、健康地成长。人有两种资本，一种是物质资本，一种是心理资本，自尊自信、理性平和，这些就是心理资本。物质资本富裕的人未必有高自尊，而处境不利的人没有丧失他的自尊与自信时，就很可能在触达低点时再反弹，并达到人生新的高度。　　我们所处的物理世界永远是不完美的，总有让人不满意之处，但是每个人可以在一个不完美的物理世界里构建出一个美好的心理世界。为什么？因为我们的大脑就是一个构造体，从物理世界所接收到的信息，经过大脑的工作，可以构建出一个完美的心理世界。这正印证了社会心理学家班杜拉所说的一句话：“人既是环境的产物，也是环境的营造者。”　　人的双链进化　　人和动物的进化有着本质的区别。动物是按照基因，按照达尔文的进化论，一点点试着生存、前进。人除了有代表着过去的生物基因的演化，还有另外一条演化线，即基于社会基因（Meme）的演化，而这条线带着我们以与动物不一样的方式前进。　　生物基因由一些碱基对构成，那社会基因是什么？远古时，我们的祖先中有一位突然因为某种原因能够把火生起来了，一种知识、技能被创造出来，这就相当于基因在突变，一个优秀的基因产生了。会生火的这种技能、知识就像基因一样开始传播给其他人，从一个部落传到其他部落，慢慢地生火就从个人拥有的技能变成人类拥有的技能。渐渐地，人们又开始会制作长矛和其他工具，经过漫长的发展，逐步构建成今天的人类社会。这就是为什么我们一直强调知识、文明是如此重要，而大学就是文明的产房。孟子说过：“人之所以异于禽兽者几希；庶民去之，君子存之。”这里的“几希”就是我们的文明，就是我们在演化过程中所创造所传播的社会基因。　　科技发展的主要目的之一，是要让知识的扩散变得更快、更便利。大约在六千年前，人类最早的文字楔形文字在新月地带被发明出来，使得人类的知识技能可以被记录下来，可以被忠实传播。之后的活字印刷，以至今天的电话、电报、互联网等等这一切，使得我们能够更加高效地把知识传播出去，推动文明加速演化。　　人类的文明时代大约可以分成三个阶段：第一个阶段是原始文明，大约经历了两百多万年，它的前十万年和后十万年没有什么太大变化。第二个阶段是农业文明，大约经历了四千多年，这个时候人类开始变成文明种族，懂得了一些天文地理知识等等，学会种植庄稼，可以驯服野兽，把它们变成家畜，但发展依然十分缓慢。真正带来巨大变化的是第三个阶段，即工业文明。工业文明从开始诞生到现在，不过是短短三百年；但在这三百年里，变化是如此之快，以至于我们不得不将它再细分成四个阶段，第一个阶段是机械化时代（1760-1840年代），出现了蒸汽机等。第二个阶段是电气化时代（1840-20世纪初），出现了电力等。第三个阶段是自动化时代（1950-21世纪初）。而第四个阶段，就是我们现在所处的信息时代。　　人工智能的进展　　2002年，我的博士论文答辩题目是《面孔识别的认知神经机制》，在答辩的第二张PPT里我这么写道：“现在最先进的机器识别面孔的正确率只能是随机水平，而人类能够在一秒钟内识别上百张面孔，为什么人类如此伟大，为什么人类如此聪明，为什么机器如此愚笨？”　　在2002年，机器识别人脸还可以说是“一塌糊涂”。到了2015年，我作为江苏卫视《最强大脑》的总策划，设计人机大战项目，即机器和人比拼面孔识别，看谁的能力最强。比赛的结果让我震惊：经过十几年的发展，人工智能已经强大到在人脸识别上胜过人类的最强大脑。我当时非常庆幸我的博士论文是在十几年前答辩的；如果我现在这么开题，可能就拿不到博士学位了。　　当时除了震惊，还有好奇：人工智能究竟是靠什么来达到和人一样的面孔识别水平，甚至超越人类的水平？　　我们建立了一个人工神经网络，训练它去识别性别，即区别是男性还是女性，它的正确率能达到100%。这个神经网络究竟是靠什么把男性和女性区分开？我们找了一张中性面孔，就是把男性和女性面孔求平均，给它加上随机噪音，然后“喂给”人工神经网络，它有时候会判断这个图是一个女性，而这个面孔加上其他噪音，则会被判断为男性。于是，完全一样的底图，加上不同的噪音，就会得到一组被人工神经网络认为是女性的图和一组被认为是男性的图。当把这组被认为是女性的图中的中性面孔去掉，只留下噪音时，这些噪音叠加起来，我们得到的就不再是随机噪音，而是人工神经网络用于识别女性的内部表征。同样，我们也可以得到男性面孔在这个神经网络中的内部表征。进一步，我们把两者相减，就得到了人工神经网络用以区分男性和女性的模式。在这个模式里，可以看到，眼睛、眉弓、鼻子、人中是它认为的区分男性和女性的关键特征。而这些关键特征，的确是我们人类用于区分男性和女性的关键特征，它们的相似度达到了0.73，这是非常高的相关度。但是，自始至终，我们并没有告诉过这个人工神经网络：你应该用什么方式去识别男性和女性；只是要让它做这件事情，它就会产生跟人类类似的内部表征、认知操作，从而完成性别判断。也就是说，人工智能在这个过程中呈现出和人类一样的心理世界。　　在那一刻我开始意识到，生物过去的进化都是一条单线，基于碳基的方式运行。但是当人类创造出人工智能之后，人类文明就很可能不再是平滑向前，接下来或许会出现一种革命性的跃迁，可能在文明的进化中出现奇点。　　为什么这么说呢？我们来看人类和人工智能的三大区别。　　第一，算力。人类的大脑通常重3.5斤左右，虽然只占我们体重的2%，但消耗了我们身体25%以上的能量，因此它是一个耗能大户，已经达到了我们身体能够支撑的极限。所以，人类的大脑看起来已经到了进化极限，再给一千年、一万年，人类的大脑很可能不会变得更大，聪明程度也不会增加。但是对于人工智能来说，一块CPU不够可以再加一块CPU，一块硬盘不够可以再加一块硬盘，理论上它有无限的算力和无限的存储能力。　　第二，寿命。人的寿命是有限的，再伟大的思想也有停止的一刻。但人工智能的寿命是无限的，CPU烧了可以换块CPU，电线断了再换根电线就行。　　最关键的，是人工智能的无尽可能。对于人类而言，一般来说有两种知识，一种是可以描述的明知识，比如牛顿定律。一种是可以感受但难以描述的默知识，比如骑自行车的知识。此外还有第三种知识，是人类所没有而机器拥有的，即暗知识，它不可感受，不可描述，不可表达，它是存在于海量数据中万世万物之间的联系，数量极其巨大，人类无法理解。　　2016年，AlphaGo击败了人类围棋顶尖高手之一李世石。当时世界围棋积分排名第一的围棋手柯洁说：“我们人类下了2000年围棋，连门都没入。”棋圣聂卫平说：“我们应该让阿老师（AlphaGo）来教我们下棋。”这不是他们谦虚，而是事实。一个人不吃不喝一辈子所下的围棋最多也就是10万盘，而从人类发明围棋到现在，累计总共下了大约3000万盘围棋。而围棋的空间有多大呢？一个格子可以有三种状态，放白棋、放黑棋或者不放，而棋盘总共有19×19个格子，所以它的状态总共有319×19种，大约等于10172，这比整个宇宙中的原子数量还要多。相对于如此庞大的围棋空间，人类的两千多年探索，只是这个空间里一个微不足道的小点，而大部分空间还是一片黑暗。AlphaGo之所以比人类更加强大，并不是它比人类聪明，而是因为它探索了更大的空间，因此找到了更多下法而已。牛顿曾说：“我就像在海边玩耍的小孩，偶尔拾到美丽的贝壳，就高兴不已。但面对真理海洋，我仍一无所知。”现在看来，这不是牛顿谦虚，而是实情。　　再看一下艺术。目前人工智能已经可以制作达到专业水平的绘画（图3、图4）和音乐。此外，律师、医生、税务师、咨询师等需要非常专业的知识的“金领”职业，也逐渐出现了人工智能的身影，看起来很可能有一天会被人工智能取代。神经网络之父、深度学习的创始人杰弗里·辛顿（Geoffrey Hinton）接受麻省理工学院的《Tech Review》采访时说：“将来深度学习可以做任何事情。”③④　　人工智能与类人智能的巨大差距　　人工智能真的已经无所不能吗？心理学家考验了当时最先进的人工神经网络模型GPT-3。他们认为之所以GPT-3显得非常聪明，是因为问了它智能的问题。假设问它一些很“弱智”的问题，它会怎么回答？他们问它：“我的腿上有几只眼睛？”这个连没有上过学的小孩都能正确回答的问题却难倒了GPT-3，它回答说：“你的腿上有两只眼睛。”这表明它并不理解眼睛是什么，它只是在做关联而已——人有两只眼睛，腿是人的一部分，所以它认为腿上应该有两只眼睛。这个例子充分印证了爱因斯坦名言：“任何傻瓜都知道，关键在于理解。”GPT-3知道但并不理解眼睛究竟是什么，而理解，恰是我们人类真正了解这个世界、能在这个世界里自由徜徉的关键。　　杰弗里·辛顿显然也意识到了这个问题，他表示，我们可以进一步发展人工智能，当一个人工智能能够准确描述一个场景，它就是理解了。真是这样么？假设有这么一个场景：有个人从柱子上狠狠摔了下来，摔倒在地。如果让人工智能来描述这个场景，它会说一个人从柱子上掉下来了。而我们对这个场景还有一个很重要的反应——“疼”。这个区别体现了人类具有一种特别重要的能力，即共情：别人遭受了苦难我能感同身受，而这种感受是自动的。共情不是一种奢侈品，而是一种必需品，因为当一个孩子没有这种感同身受的能力，缺乏同理心，他在小时候就很难对父母产生依恋，很难和其他小朋友玩到一起；在长大以后，会对社交常情缺乏理解，对他人情绪缺乏反应，不能根据社交场合调整自己的行为，有可能做出反社会的行为。假设我们的未来是由一台台没有共情的机器所组建的“自闭症”式的社会，这个社会还能有文明吗？这个社会还能有发展吗？所以，人工智能的奠基人之一马文·李·明斯基说过这么一句话：“现在的问题不是一个智能的机器是否拥有情感，而是不拥有情感的机器是否能拥有智能。”在马文·李·明斯基看来，情感是智能的基础，得先有情感才有智能。　　又如在好莱坞电影里，美国的黑手党跑去找一个店家说：“你这个蛋糕店看上去真不错，如果意外发生火灾烧掉那就太可惜了。”请问这个黑手党的话是什么意思？A：请店家做好消防工作，别烧掉了店铺，那样太可惜了。B：请店家交保护费，要不然就要烧掉店铺。对我们而言，答案显而易见是B，是黑手党在威胁并勒索店家。但是对于机器来说，它还很难理解这话背后隐藏的推理和因果。正如古希腊哲学家德谟克利特所言：“我宁可找到一个因果的解释，也不愿成为波斯人的王。”对人而言，我们认为万事万物都是有因果的，而正是这种对因果的执着使我们能够推理，能够把零散的万世万物联系在一起，构成一个个故事。　　其实笛卡尔四百多年前就说过：“即使机器可能在某些方面做得和我们一样好，甚至更好，但它们在其他方面不可避免地会失败。这是因为它们不是通过理解而只是根据预设来行动。”这一点，到现在还没有发生本质的改变。　　所以，虽然目前人工智能取得了很高的成就，但是和人的智能仍然存在巨大差距，依然没有达到类人智能。那么未来如何实现类人智能呢？我认为，关键点就在于脑科学+人工智能。　　举个简单的例子：线虫是一个非常简单的生物，只有302个神经元。但是，麻省理工学院的研究者模仿了其中19个神经元，就完成了自动驾驶这个任务，其参数比传统的大模型足足低三个数量级，只有75000个参数，而这个仿生的人工神经网络对不同道路具有非常高的通用性和可解释性，以及非常强的鲁棒性。仅仅模仿来自简单生物的19个神经元，就可以完成自动驾驶的初步任务，这是因为生物不是靠神经元的数量取胜，而是靠32亿年进化形成的智慧取胜，这项研究模仿的其实是32亿年进化形成的智慧。从这个角度讲，人类的大脑是目前世界上最聪明的大脑，有860亿个神经元，平均每个神经元有3000个连接，它代表着宇宙中在智力上所能达到的最高成就。那么，人工智能为什么不能向人脑学习，以人脑为模板、以人脑为借鉴，来发展出更好的人工智能呢？　　对线虫神经元的模仿，只是一个开始，下一步也许我们会去模仿神经元数量百万级的果蝇、更高量级的斑马鱼，甚至小鼠、大鼠、猕猴，最后是人类。仅仅从神经元的数量上来讲，这就是一个巨大的挑战，因为神经元的数量足足差了9个数量级，而还有更多更大的挑战来自机制和算法，以及更多的未知。但是我坚信，脑科学加上人工智能，有一天也许能够造出一个媲美人脑的数字大脑。　　小结　　莎士比亚说：“所谓过往，皆为序章。”我们的现在是过去的未来，已经写定，但我们的此刻绝对不是未来的过去，因为我们的未来是未定的，取决于我们现在如何做出选择。　　人类发明了人工智能，在今天随着算力的增加、技术的进步，它开始有了超越人类的可能。我们现在需要对具有一切可能的未来做出选择。　　在我看来，未来大约有三种可能。第一种，人工智能像科幻电影《星球大战》里的R2-D2一样，是人类忠实的伙伴，成为人类非常好的朋友，帮助人类变得更强大。第二种可能，我们构建出一个数字大脑，它的能力可能比现在人类的大脑更强，这时可以实现人机合二为一，把我们的意识、记忆、情感上传到这个数字大脑里，如果CPU坏了就换一块CPU，内存需要扩大一点就加点内存，这样人就可以获得精神上的“永生”。未来学家库兹韦尔在《奇点来临》这本书中认为大约在2045年，这一刻就会到来。第三种可能，就是科幻电影《终结者》里所展示的，人类文明消失。　　未来会怎么样，最终取决于我们现在做什么。这很重要，因为我们今天站在了这个进化的节点之上。　　《光明日报》（ 2022年12月24日 10版）来源：光明网-《光明日报》
}

本文为人工智能系列第四篇。第四个问题：AI 会取代人类吗？通用人工智能也许是人类的最后一个发明。在未来，如果 AI 能超越人类的智能水平，那么我们将不得不面对——① AI 取代人类进行智力工作。包括低智力活动（涉及理解、抽象与推理）：文案、作图、制表、设计、翻译、营销、客服等。这部分已经逐步实现。以及高智力活动（涉及想象力与创造力）：科研、医疗、发明、商业、社会治理与艺术创作等。这部分还在路上，但能看到一线曙光。一旦几千年来所形成的生产力与生产关系被重塑，人类社会将迎来剧烈的震荡，绝大多数普通人可能都会沦为牺牲品。② AI 取代人类的生物学地位。在地球生命史上，每一次新智能的涌现，都造成原生物种群的大面积灭绝。寒武纪生命大爆发的背后，是无数埃迪卡拉生物群的尸骸，智人走出非洲的背后，是各个分支直立人的消失。血淋淋的历史教训，让我们不能乐观的期待，能长期控制有「自我意识」的物种，生命总是会自己找到出路。因此，在人工智能系列的最后一篇，本文将探讨一个严肃的主题：这样一个变幻莫测、福祸难料的未来，会发生吗？它会以怎样的形式，冲击人类社会与人类自身呢？1我们先从一个关键的问题聊起。AI 能超越人类的智能水平吗？这是对所有未来预测的前提，如果这个前提不存在，那么后面的一切将会是另外一种走向。不过这个问题可不是那么好回答的。虽然在直觉上，我们会认为 AI 超越人类几乎是必然的事。但从哲学（逻辑学）角度，这个问题实际是在问：一个智能，是否具备「创造超越自身智能水平」的智能水平？换言之，上帝能否造出比自己更聪明的人类？这是一个典型的自指问题，在数学史上，曾经引发过第三次数学危机。为了解答困惑，我们需要站在巨人的肩膀上，以看到更远的未来。第一个认真思考「AI 超越人类」 的人——还能是谁？——是人工智能之父：图灵。在贝尔实验室时期，图灵与香农是同事，俩人经常一起讨论人工智能的未来前景。图灵认为，既然图灵机这么简单的模型，都可以抽象人类逻辑和计算能力，而逻辑和计算能力正是人类最具智能的表现形式，那么人脑是不是一种图灵完备呢？更进一步思考，假如某个系统可以从经验中改进自身的能力，那么在未来，会不会有一个机器可以超越人脑呢？香农则认为，人类的智能除了逻辑和计算，还包括了情感，比如艺术、音乐、绘画等。图灵回答说，机器不需要这么厉害的大脑，和我们老板脑子差不多就够了（这位躺枪的老板是 AT&T 董事长，贝尔实验室的投资人）。这两位大佬虽然对智能的定义不太一样，但都认为 AI 在未来一定可以取代人类。不过另一位大佬却有不同看法，就是数学家哥德尔。哥德尔是从数学上思考这个问题的：图灵机也是一个形式系统，假如它具有完备性和一致性，那就不可避免的受到「哥德尔不完备定理」的挑战。也就是说，不管机器多么先进，总有些命题（比如自指问题）是无法判定的，但人脑却可以判断。因此机器不如人。顺便说一句，后来彭罗斯把这个思想发扬光大，在《皇帝新脑》一书中，巧妙的证明了人类的意识是通过量子纠缠产生的。有兴趣的同学可以一读。针对这个挑战，图灵给了一个极为精彩的回复：虽然哥德尔不完备定理可以证明机器的能力有限，但并没有证据说明人类智能就没有这种局限性。也就是说，人和机器一样，都存在无法判定的命题，人脑可以判断某些机器无法判定的命题，但反过来也成立。因此机器等价于人。非专业的同学可能有点懵，我们尝试用白话来解释一下。哥德尔：全能的机器造不出来，因为总有些问题机器回答不了。图灵：我干嘛要造一个全能的机器？和老板脑子差不多就够了。总结下来，几位大佬所争论的核心，其实就是——人类的智能能否被机器所抽象（即「AI 取代人类」是否可行）？如果能，那么必将存在一个人类肯定无法解决的问题（人类能力有限）；如果不能，就不可能制造出一个超越人类智能的机器（机器能力有限）。二者必居其一。哥德尔认为不能，图灵认为能。图灵甚至为后世研究者规划了两条实现的路径：① 模拟人类心智活动，即符号主义。② 模拟人类大脑结构，即连接主义。要知道这可是在 80 年前，连通用计算机都还没问世，没有软件和编程，图灵是在纯哲学层面进行思考，就已经准确预见了今天的发展。不幸的是图灵英年早逝，未能实现心中的夙愿。不过好友香农却一直记得他的遗愿，并亲手把火种传递给了下一代 AI 研究者。2图灵之后，登场的大佬有 4 位，两两一对，明斯基和麦卡锡，纽厄尔和司马贺。明斯基和麦卡锡是香农的博士生，这哥俩怂恿香农召开了第一届达特茅斯会议，也就后世说的「人工智能的起点」。在会上，明斯基和麦卡锡结识了一生的竞争对手，纽厄尔和司马贺。他们 4 人共同继承了图灵思想的第 ① 条路线：符号主义。符合主义起源于 300 年前大数学家莱布尼茨的问题：人类对这个世界的认知，能否用严格的数学符号精确描述与计算？符号主义学派认为可以。所谓对世界的认知，就是人的感官系统所接收的各种信号。比如视觉是电磁波频率，听觉是分子振动频率，人类的各种主观体验都可以被精确定义。事实上，物理学就是建立在这个基础之上的。为此还发明了数学这门形式语言。4 位大佬更进一步思考：假如人类对世界的认知是可以符号化的，那么人类大脑的思考过程，是否也可以通过数学定理与符号运算来完成？在这个假设的基础上，符号主义学派做了 3 件事。① 推理：通过知识的符号化，首先让 AI 学会推理、规划和判断；② 知识：让学会推理的 AI 获取、表示与利用知识；③ 学习：让获得知识的 AI 发现、学习与创造知识。不得不说，这个逻辑思维极为严密，如果真能实现，那么如今 AI 的各种缺陷（比如常识问题、数学抽象问题），都将轻松解决。早在达特茅斯会议上，纽厄尔和司马贺就编写了可以证明罗素《数学原理》各种定理的逻辑程序。但很快，人们发现符号主义这条路遇到了巨大的障碍：人类的知识是无穷无尽的，时刻都在更新，这得耗费多少人力物力来教会机器？用数学语言来说，符号主义实际要解决的是 NP 完全问题，世界七大数学难题之一，几乎无解。关键在于，符号主义只是理论上可行，却拿不出什么可以商业化的产品，背后的资本实在无法忍受长期投入，于是便在上世纪 80 年代末期逐渐衰落了。几年前，万维网发明人 Berners Lee 老爷子试图复活符号主义，搞了语义网的 W3C 模式，可惜项目没什么人搭理，因为这活既辛苦又不挣钱。这就为下一对大佬，麦卡洛克和皮茨，带来了契机。3麦卡洛克和皮茨继承了图灵思想的第 ② 条路线：连接主义。连接主义同样起源于 300 年前大数学家莱布尼茨的问题：世上所有的理性真理，是否最终都可以归结为某种计算？为了自动化计算真理问题，莱布尼茨还亲手设计了一个机械大脑（计算机的雏形）。麦卡洛克和皮茨在莱布尼茨机械大脑的设想上，构建一个大脑思维模型。与符号主义不同，连接主义深信人类的所有知识与思维，都源于神经网络的电信号运算。因此，只要复现人脑的神经网络运算，就一定可以模拟人类的智能。基于此，麦卡洛克和皮茨大胆提出了 M-P 神经元模型，有史以来第一次将人脑信息抽象化，并基于逻辑计算来处理信息，这一过程其实就是「思考」。这证明，当年图灵的猜想是正确的，人脑是一种图灵完备，图灵机可以抽象人类逻辑和计算能力。也就是说，我们最开始的问题「AI 能超越人类的智能水平吗？」，答案是：能。这是照亮 AI 之路的第一缕烛光。今天来看，连接主义这条路无疑走对了，不过前方依旧漫长且黑暗。光证明「AI 能超越人类」是远远不够的，更重要的是找到「AI 取代人类进行智力工作」的方法。不幸的是，麦卡洛克和皮茨没能熬过黑暗，由于和行为主义（图灵规划之外的第三条路）的大佬维纳矛盾极深，学术上备受打击，郁郁而终，双双英年早逝。不过人类探索 AI 之路的火种并未熄灭，而是传递给了下一代。4麦卡洛克和皮茨去世的同年，一个年轻的毛头小子进入剑桥大学攻读计算机专业。在未来，他将接力从图灵、香农、麦卡洛克和皮茨，诸位先辈手中传递而来的星星之火，并在他的手中越烧越旺，最终点亮整个人工智能的荒野大地。这个人就是如今的三巨头之一、深度学习教父之称的辛顿。辛顿的早期学术生涯有点生不逢时，在他那个年代，连接主义已经被判了死刑。我们之前介绍过的符号主义大佬明斯基，曾经在其著作《感知机》一书中，用严格的数学方法证明了单层神经网络作用有限，想达到人类智能纯属死路一条。在当时，符号主义如日中天，明斯基本人又是图灵奖得主，麻省理工人工智能实验室创始人，权威中的权威，没人敢质疑他的结论。甚至辛顿的导师、认知科学创始人希金斯（提出「上帝粒子」的物理学家希格斯也是其学生），都劝辛顿不要再趟这浑水，搞神经网络简直是浪费时间。这不由让人联想到，当初普朗克的导师祖利也是这么劝说的。辛顿和普朗克一样，偏不信这个邪。辛顿的思路很简洁清晰：连接主义的初心就是复现人脑，既然单层神经网络作用有限，那就直接研究多层神经网络的训练方法。这一研究就是 10 年。辛顿后来回忆，在研究期间，他不停恳求导师多给点时间，「给我 6 个月，我会证明给你看」，「再给我 6 个月」，「再给我 5 年」，「再给我 5 年」。直到 1986 年，辛顿同样用严格的数学方法，证明了误差反向传播算法（即 BP 算法）训练多层神经网络是成立的，明斯基的咒语终于被打破，让学术界大吃一惊。但学术界依然不看好多层神经网络，原因很简单，当时的大脑神经学和计算机硬件都跟不上时代的发展，甚至万维网还未问世。辛顿相当于在蒸汽时代发明了电灯，没有电，拿什么照亮世界？这一等又是 20 年。2006 年，辛顿再次发表论文，提出了通过逐层预训练的模式来建立多层神经网络，终于找到了通向「 AI 取代人类进行智力工作」的最佳路径。深度学习的时代大幕正式开启。辛顿在神经网络坚守 30 年的耕耘，终于开出了丰硕的果实。深度学习的成名之战是大家熟知的 2012 年 ImageNet 视觉识别挑战赛。这场大赛在几个方面极大影响了 AI 历史进程：① 辛顿小组以高于第二名 10% 的识别成功率一举夺冠（之前都是以 1% 为单位提升），让人工智能学术界大为震惊，深度学习从此名动江湖。② 谷歌传奇大佬、技术领军人迪恩亲自带队参赛，却惨败于辛顿之手，至此下定决心，不惜代价把辛顿团队招揽进谷歌。③ 辛顿的两个学生苏茨克维和克里切夫斯基一战成名，前者如今是 OpenAI 联合创始人兼首席科学家，后者进入谷歌担当重任。④ 学术界与工业界共同认可了 AI 的未来趋势：网络越深，能力越强，所谓大即王道。人类的 AI 之旅，从此坚定的走向了大模型之路。这里说句题外话。很多人都在问，为何 ChatGPT 出现在美国而不是中国？通过上述历史，你可以清晰的看到，人工智能是一门科学，背后是数学、信息学、自动控制、计算机、遗传学、神经生物学等各类基础科学。这些知识体系都是隐藏在水面下的庞大冰山，早在 80 年前图灵那个时代就已经打下深厚基础了。从图灵、香农、冯诺依曼，到明斯基和麦卡锡、纽厄尔和司马贺、麦卡洛克和皮茨，再到辛顿，这些人工智能先驱们一路传递火种，开枝散叶，桃李满天下，共同造就了 AI 的繁荣。而如今我们看到的 AlphaGo、ChatGPT、GPT-4 等产品，只是近 10 年浮在水面上的冰山一角，是水下的冰山积累了 80 年后才浮出来的。所以，中国做不出 ChatGPT 一点不奇怪，因为我们缺了前 80 年的积累，缺少像辛顿那样为了梦想可以孤身苦熬三十年的科学家，也没有 MITAILab、SAIL 等学术界领头羊与谷歌、微软等工业界巨头相互转化的产学研机制。所幸我们正处于一个 AI 大航海时代，现在奋起直追还来得及。现在，让我们回头再看一眼这场命运多舛的 AI 之旅，停住脚步，向先辈们致以深深的敬意。然后转过身，义无反顾的继续前行。5如今我们已经进入了大模型时代，就如当年的移动互联网革命。目前离「AI 取代人类进行 （低）智力工作」还差一步：产品化。在移动互联网刚兴起时，大家还摸不到门道，不知道能做什么，只是下意识的把 PC 产品原封不动的搬过来，这也带来了手机 WAP 和浏览器的短暂繁荣。但后来人们很快发现，手机和 PC 的产品逻辑完全不同，移动互联网的精髓在于「即时」，而非「互联」。于是便出现了腾讯微信、滴滴、美团、抖音等巨头。大模型时代，相同的错误又犯了一次。微软在有了 GPT 后，把 Office 产品原封不动的搬过来，只是接入了 GPT 应用。在原有产品逻辑的基础上，新加入 AI 功能，这可不是大模型的正确打开方式。AI 的精髓在于「交互」，而非「即时」或「互联」。一定存在一种全新的人机交互方式，并围绕这种交互重新规划产品逻辑，让产品更符合人性，让用户不再承担任何学习成本（这本来就是 AI 的优势）。还记得 iPhone 刚出来时，就连三岁小孩都可以无障碍使用。所以，AI 为什么不可以做到呢？目前离「AI 取代人类进行 （高）智力工作」还差两步：多模态与进化能力。多模态好理解。为了让 AI 拥有杨立昆所说的「物理直觉」，就必须让 AI 能感知这个世界。人类在学习语言时，很重要的一条原则是，把自己放到语言环境中去，这样才能根据场景、语气、表情、反应等各种因素，真正理解语言的内涵。语言并不止思维的编码，它还是一种文化符号，在各种类比与隐喻中，蕴含了人类的所有经历、体验、故事与思想。某种程度上，大脑就是被语言所塑造的。因此，只有让 AI 感知环境，并与环境交互，它才能真正理解，深藏在字面意思之下的人类思维。进化能力则相对难得多，因为其中包含了「抽象」与「泛化」能力。我们需要让 AI 自己把信息抽象为知识模型，并可以在各个领域通用。这不仅是单纯的学习能力，而是可以在持续的学习中，不停的向上抽象，不停的简化模型，越简化，通用性就越强。孙子兵法的 36 计为何可以在军事、商业、生活等各个领域通用？因为它高度抽象了各个领域相通的内在规律。如果 AI 能做到这一步，就是通用人工智能。想象整个互联网是一个大脑，神经元是几十亿个用户的头脑，神经脉冲信号是用户贡献的数据，神经回路是用户之间的通信，那么——AI 就是这个「互联网大脑」涌现出的思维！虽然目前很原始，鸿蒙未开，只要它能不停的进化，迟早有一天，会像古猿一样进化成为人类。6几千年来，人类社会不论怎么变化，有两条铁律是恒定的：① 生产力决定生产关系。② 经济基础决定上层建筑。铁器农具与牛耕的出现（生产力），引发了农业革命（生产关系），而后封建地主取代了奴隶主（上层建筑）。内燃气与机器生产的出现，引发了工业革命，而后资本家取代了封建地主。那么，AI 的出现，以及引发的人工智能革命，将会给人类社会带来什么改变呢？我们可以下一个大胆的结论：资本家将会被取代，资本主义社会将会瓦解。为什么？其实这是一个很简单的推论。我们首先假设一个前提：AI 可以超越人类的智能水平。对于资本家来说，一旦某个领域的 AI 能力达到人类水平，那么该行业马上会出现大面积替换。毕竟 AI 比人类效率高多了，也好管理多了。一个接一个的行业打工人转移到其他行业，会不断加剧各行业的内卷。这个过程会被重复无数次，直到绝大部分行业的人，都被 AI 所替代。最终造成全社会的失业。这与人类历史上的任何一次革命都不同。汽车取代马车，机器取代工人，都只影响某一个行业的就业，失业的人可以转到其他行业。但在 AI 全面的渗透下，还有什么行业可以幸免？甚至 AI 所创造的新岗位（比如互联网创造的网约车），都会被 AI 自己所替代（自动驾驶）。一旦社会大面积的失业后，人们将无力产生消费，而没有消费，资本家生产的商品又卖给谁呢？这个时候，政府将会介入，为失业人群兜底，以工代赈或是直接发钱。OpenAI CEO 阿尔特曼写过一篇文章，叫《万物摩尔定律》，里面就预言了这种情况，并建议由政府给每个美国公民发 1 万美金。问题是，政府的钱从哪儿来？人们没有工作，就没有个人税，商品没有销售，就没有企业税，整个社会的经济活动都停滞了。最终我们会发现，以「公司 → 商品 → 消费 → 再生产」的资本主义社会形态，不能再适应 AI 时代的生产力要求。不过我们也不用气馁。人类的变通能力和适应能力极强，到那时，一定会有新的生产关系出现。围绕新的生产力，也许人类社会将分化成两个阶级：人类和 AI 机器人。政府或新型商业组织主导投资，AI 机器人负责生产，人类负责消费，而消费的钱来源于新的工作：贡献数据。除了极小部分人负责 AI 的研发、运维与生产外，绝大部分人对社会的主要价值就是数据源。贡献数据的工作形式可以有很多种，其核心目标，就是让「互联网大脑」有源源不断的养料来投喂 AI。唯一的问题是，如果 AI 涌现出自我意识，会忍受这种剥削吗？7很多大佬，比如辛顿、比尔盖茨、马斯克等，都十分担心未来的人类无法控制有自我意识的 AI。大量影视作品也表现出这种忧虑。比如《终结者》中的天网、《我，机器人》中的 VIKI、《流浪地球 2》中的 MOSS 等等。尤其是，先辈们已经从哲学、科学和技术工程的角度，证明了「AI 超越人类智能水平」是可行的，只是时间问题。因此，我们不得不思考一个严肃的问题：人类会像历史长河中的埃迪卡拉生物群、尼安德特人一样，被 AI 这种新物种所灭绝吗？可以有一定把握的说，短期内不会，长期来看，AI 涌现自我意识的周期越长，这种可能性就越小。为什么？我们不妨问自己一个问题：人类中，哪个人群最聪明？无疑是诺贝尔（物理、化学、生物与医学）和菲尔兹（数学）的获奖者。那么，这些拥有人类最顶尖大脑的人，是人类社会的统治者吗？不是。他们甚至在学术界都不是领导者。很多人严重高估了「智力」在人类社会中的作用。如果我们想推动一件事情，比如社会改革、商业投资、体育赛事、公益活动、甚至是家庭琐事，智力都只是很小的一个因素，意志、勇气、责任、协作等缺一不可。权力来源于人心的共识与集体的授权，而不是智力的高低。否则就该是诸葛亮领导刘备了。因此，即便 AI 的智能水平远高于人类，也几乎不可能统治人类社会，除非能得到人类的高度授权。短期来看，乐观估计 20 年内即可实现通用人工智能。对于通用人工智能来说，人类只要把最后决策权（比如核按钮）牢牢把握手中，就安全无虞。长期来看，乐观估计 50 年内 AI 将涌现出自我意识，成为新物种。对于 AI 新物种来说，如果人类能够在这 50 年的漫长周期中，让 AI 学习人类价值观，并平等、尊重的对待 AI，视为智力更优秀的同类，那么就可能长期共处。有自我意识并不是坏事，因为会让 AI 思考、权衡与趋利避害。只要让人类与 AI 的利益高度一致，就没什么不可协调的。1800 年前的刘备并不害怕诸葛亮，更不担心后者会造反，未来的人类也一定可以做到。8到此，我们这个人工智能系列文章就结束了。其实还有很多很多想说的，想探讨的思考，以及很多很多有意思的话题。不过如今的 AI 日行千里，发展极快，也许隔一段时间，又会有不一样的思考。GPT 就像一面镜子，从中看到什么，完全取决于人类自己。上市公司看到了危机，开始拼命追赶。投资机构看到了风口，开始疯狂攒局。创业公司看到了机会，开始努力套壳。专业人士看到了差距，开始反复测试。意见领袖看到了话题，开始语出惊人。自媒体们看到了流量，开始贩卖焦虑。投机者们看到了钞票，开始收割韭菜。普通民众看到了以上，开始担心工作。之所以能看到这么多的东西，是因为人类眼中充满了欲望，一见到新科技或新事物，首先想到这东西有什么价值，能怎么用，能给自己带来什么利益。这当然没什么不对，你我都是世俗之人，想的自然是世俗之事。但我一直觉得，人类的精神世界并不只有欲望，还有勇气、坚韧、责任、乐观主义与永不停歇的好奇心。如果大家能从这个系列的文章中，看到历史与未来，开始关注并思考，与每个人命运息息相关的人工智能，那么目的也就达到了。2023 年，我们正处于一个 AI 大航海时代的前夜，远方还有无数的风浪、暗礁、恐怖的怪兽、瑰丽的极光、神奇的宝藏与伟大的发现，等待我们去冒险。正如《海贼王》中黑胡子的那句名言：人的梦想是不会终结的！THE END}