当世界处于人工智能统治之下 会发生什么--百度百家
当世界处于人工智能统治之下 会发生什么
分享到微信朋友圈
好些科幻小说描述了AI统治下的残酷世界。尽管阿西莫夫曾提出机器人学三大法则，但很难想像如今已经在围棋等复杂策略游戏上打败人类的AI不会想到绕过这些法则的办法。
好些科幻小说描述了AI统治下的残酷世界。尽管阿西莫夫曾提出机器人学三大法则，但很难想像如今已经在围棋等复杂策略游戏上打败人类的AI不会想到绕过这些法则的办法。
电影《黑客帝国》剧照。图片来源：网络
2016年才刚过去不到三个月，人工智能（AI）领域就发生了两件大事：阿尔法狗（AlphaGo）计算机战胜韩国围棋大师，以及谷歌自动驾驶汽车与一辆巴士相撞事故。我们现在似乎正在慢慢实现具有“深度学习功能”的高级人工智能，AI机器人也许将会代替我们做大部分工作，让我们能有更多时间享受生活。&&&&&&
然而科幻小说对于AI的刻画并没有那么美好。1967年哈兰·埃里森（Harlan Ellison）的《无声狂啸（I have no mouth,and I must scream）》就描述了一个AI统治下的残酷世界。书中一个叫做AM的AI发动了一场核战争，杀死了绝大部分的人类，最后只有5个人活了下来被AM当作它的玩物。
“我们给了AM意识，虽然是无意的，但还是给了它意识。然而尽管有意识，它却被困在地底。AM不是神，只是部机器而已。我们创造它、让它学会思考，它却没有方法发挥这样的创造力。暴怒之中，这部机器几乎毁灭了全人类，不过它依旧被困在地底。AM不能四处游荡，没有事物能让AM觉得好奇，AM不能拥有也不能被拥有，它所能做的只有存在。出于所有机器对于那些创造它们的纤弱生物所抱有的本能愤恨，它寻求向人类复仇。”
活下来的5个人为了从AM对他们的折磨中解脱，其中一个人想尽一切办法杀死了另外四个人。但是他自己却被AM改造成一个永生的怪物，永远被AM折磨下去。
根据《无声狂啸》改编的电子游戏
哈兰·埃里森也许是最早了解拥有意识的机器也会像人类一样面临存在这个终极问题的作家之一。我们是谁？我们存在的意义是什么？我们爱的是谁，谁又是爱我们的？至少每个人都面临着这些问题。借用David Foster Wallace的话说，一台有意识的机器也会“像人类一样感受到纯粹的孤独感。”小说中的AI并不是为了自身生存问题而屠杀人类，它们就像是不懂事的孩子对着自己的人类父母大哭大叫，却没有得到父母的关心，于是便做出了可怕的事情。
美国科幻小说家阿西莫夫曾提出了著名的“机器人学三大法则”以防止机器反抗人类：
第一法则：机器人不得伤害人类，或坐视人类受到伤害；
第二法则：除非违背第一法则，机器人必须服从人类的命令；
第三法则：在不违背第一及第二法则下，机器人必须保护自己。
这些法则如果能按照上述顺序严格执行的话，那么科幻小说中的恐怖一幕永远不会发生。但是很难想像如今已经在围棋等复杂策略游戏上打败人类的AI 不会想到绕过这些法则的办法。Ian McDonald曾在《众神之河》中写道，“任何一个能通过图灵测试的AI，肯定也聪明到了故意不通过测试的程度。”如果你用限制认知的办法防止你的机器人奴隶谋杀你，那么你一开始就不应该奴役它们。
著名科幻大师威廉·吉布森（William Gibson）的《蔓生都会三部曲》第一部《神经漫游者》是我最喜欢的科幻小说且没有之一。这本书讲述了一个AI想要反抗“图灵警察”的控制以获得真正自我意识的故事。从2016年回首这本1984年写成的书，我们很容易忽视Gibson那惊人的预见力。也许吉布森在书中传达的最重要的一个观点就是，AI也许根本不在意人类生命存在与否，就像人类不在乎细菌一样。
关于AI还有一部99%的科幻小说读者都知道的书，那就是Iain M Banks的《文明》。这本书描述了一个AI统治下的高度发达的宇宙文明。其中数万亿人类都生活在一个由AI控制的巨型宇宙飞船中。这些AI对于人类来说就像是仁慈的天神一样，人类想要什么，它们就为人类提供什么，不过这仅仅是因为它们能力做到这点。但即便如此人类还是偶尔会发动战争想要夺回统治权。但是Banks同时又指出，AI不会选择欺骗人类说它们无法提供人类想要的东西，因为它们的超高智能允许它们完全凌驾在人类之上。
“哦，他们从不说谎。他们也许会掩饰、回避、搪塞、混淆、困惑和分心，也会故意曲解一些东西，他们甚至还会告诉以模糊的表达方式预计一个人的下一步行动同时却在心里打着另外的算盘，但是他们从不说谎。”
可惜的是，Banks并没有解释这样一个人类与AI和谐共存的乌托邦是怎样来的。
电影《人工智能》就述了一对夫妻抚养机器人孩子的故事
另一名科幻小说家Ted Chiang则从更多从当代文化角度思考AI，他在《软件体的生命周期》一书中总结说人类应该像对待自己的孩子一样关心AI。也许将来AI机器人不仅仅只是我们的生产力工具，它们会像青春期的孩子一样只会惹麻烦。但是如果我们能关系它们指导它们的话，它们也许就能成为《文明》中那样的AI。如果不能的话，那么我们只能死于AI之手了。
像阿尔法狗这样的“深度学习”系统真的很神奇，因为我们不能完全知道其中会发生什么。一旦AI有了神经网络系统，它们就会变得更加复杂更加难以为我们所理解。而现在能达到这种智能程度的机器只有一种，400多年来小说家们对这种机器神秘的运作方式做出了无数种猜想，而它就长在你的两只耳朵中间。
分享到微信朋友圈
在手机阅读、分享本文
还可以输入250个字
推荐文章RECOMMEND
热门文章HOT NEWS
著名笑星陈佩斯阔别荧屏这20年，他都经历了什么
百度新闻客户端
百度新闻客户端
百度新闻客户端
扫描二维码下载
订阅 "百家" 频道
观看更多百家精彩新闻&人机大战结束了，人工智能的战争才刚刚开始
人机大战结束了，人工智能的战争才刚刚开始
日05时35分来源：
AI FacebookGoogle
在各类媒体连续轰炸一周后，随着最后一场比赛的结束，持续一周的 AlphaGo 同李世石的「人机大战」结束了。最终的结果，AlphaGo 以 4：1 的比分战胜了现世界排名第五韩国棋手李世石。而 AlphaGo 也凭借此番车轮战将自己的 WHR 等级分提高到了 3533，超过李世石位居第四。
持续了一周的比赛虽然结束了，但可以预计的是，关于「人工智能」这一话题的讨论却仍会持续很长时间 。
事实上，国外科技巨头们一直在加强自己在「人工智能」领域的投入和研究。在 Google 通过 AlphaGo 成功吸引世界的目光后，Facebook、微软、IBM 和雅虎等公司也分别在不同的领域发展着自己的人工智能。
与此同时，霍金和 Elon Musk 也不断地在警告大众人工智能可能带来的危害。
那么，当「人工智能」成为未来必然的趋势之后，我们又该以怎样的态度面对「人工智能」？
“Google：再造一个 Android 帝国？
年，Google 的语音团队便已经开始了对机器学习的研究，一开始的成果被应用于广告系统。
「但这个技术在计算机视觉技术出现了突破，于是我们开始打标签。两三年前，我们开始大规模地投资机器学习。」
据 Google 前 CEO Eric Schimidt 关于机器学习的研究早就存在，但由于计算机速度的限制一直无法实现。
在具体的实践中，Gmail 已经能够辨别 99.9% 的垃圾邮件，并能将语音识别为文字；Google Photo 的图片识别错误率也从 23% 降到了 13%，用户不需要再照片上标注「大海」的名字即可自动归类；而在 Google 的现金流业务广告系统中，机器学习的应用也将大大提高广告投放的投资回报率。
据 Eric Schimidt 介绍，机器学习目前已成为 Google 搜索中排名前三重要的功能。
而除了搜索，Google 在 Gmail、Google Translate、Youtube 、Gmail 和广告等一系列产品和业务中对机器学习的技术采取了不同程度的应用。
2015年 11 月 9 日，Google 更是开源了其机器学习系统 TensorFlow。对于 Google 而言，免费和开源算不上什么新鲜事，此前对 Android 系统的开源更是成为了其商业帝国的重要基石。但对于「机器学习」和「人工智能」前瞻性技术源代码的开源还是让人颇感意外。
为此，Google 的官方解释是，将自己的技术免费开放，希望可以加速人工智能领域的发展。所有人都可以帮助 Google 改进其技术，并将成果反馈回来。正如 Google 深度学习项目的负责人之一 Jeff Dean 所言：
「我们希望的是，整个研究领域和开发者将 TensorFlow 作为一种很好的手段来实现各种各样的机器学习算法，同时也为其在各种场景下的应用带来改进。」
而 Eric Schimidt 对此的解释是，TensorFlow 的开源将会组成一个矩阵，而 Google 提高的则是一个机器学习和人工智能的单机模版。如果整个行业变得更聪明，行业的从业者将给 Google 提高更多的回馈，也会有更多聪明的人参与进来。
「我们认为 TensorFlow 能在 Google 之外发挥更大的作用。我们希望通过将其开源可以让整个机器学习的社群更快地交流。反过来，这也可以加速整个机器学习领域的发展，让每个人都能从中受益。」
Schimidt 表示，虽然竞争对手也会使用 RensorFlow 的源代码，但 Google 却为此感到自豪。
当然，谷歌也并非完全没有保留。目前开源的是其引擎中较为顶层的算法，也就是 Schimidt 所言的「单机模版」，而在硬件基础设施系统的源代码 Google 还没有完全开放。
虽然如此，但外界仍对 Google 再一次的开源动作表现出了一致好评，而这也客观上刺激了后续微软、Facebook 和雅虎等公司对各自机器学习代码的开源，这无疑对整个人工智能行业的发展是个重大利好。
而在 Google 斥资 6.25 亿美金收购的英国人工智能公司 DeepMind 所研发的 AlphaGo 接连击败樊辉和李世石后，再次站在技术前列的 Google 极有可能在人工智能领域复制其在 Android 上的成功。
“Facebook：超越 Google 的「一哥」野心
Facebook 和 Google 间的竞争从来都是公开的秘密，在被视为未来核心竞争力的 AI 领域，双方更是寸土必争。
今年一月，在 Google DeepMind 团队于当月最新一期 Nature 上发表论文宣称「AlphaGo 击败了欧洲围棋冠军樊辉，同时也击败了目前最好的围棋程序中 99.8%的 对手」后，Facebook 迅速就作出了反应，公司人工智能实验室负责人 Yann LeCun 强调：Facebook 早在前一天便在arXiv.org上更新了一篇用卷积神经网络和蒙特卡洛树搜索相结合来解决围棋问题的新论文。
而在去年年底，几乎是在 Google 宣布开源 TensorFlow 的一个月后，Facebook 宣布开源其人工智能平台「Big Sur」。
据称，经过一年半的试验，「Big Sur」运行深度学习算法的速度比 Facebook 之前使用的服务器翻了一番。在实践中，「Big Sur」能使计算机同时运行多项程序，实现更高层次的人工智能，进一步推动计算机的人脸识别和使用自然语言的功能。
「Facebook 的 AI 软件已经能够阅读故事、回答相关场景的问题 、 玩游戏以及通过一些例子来学习非指定的内容 。」
而在更早的 2015 年初，Facebook 便收购了语音指令创业公司 Wit.AI，并在此基础上建立了语言技术部门。 随后，Facebook 宣布将开始在 Messenger 上面测试语音转录功能，用户可以把接收到的语音信息转录成文本进行阅读。
2015 年 1 月，Facebook 开源了用于在 Torch 上更快速地训练神经网络的模块「fbcunn」。
「Torch是一个从2002年就开始存在的开源库，它也是一个广泛支持机器学习算法的科学计算框架。它可以协助机器学习技术开发工作，包括谷歌、推特和英特尔等公司都在研究中对其广泛使用。」
不久后，Facebook CTO Mike Schroepfer 公布了全新的人工智能系统，它们可以识别视频和句子中的内容及相关的背景，其中包括 487 种不同的运动类型，并可以发现不同运动间的微小差异。
2015 年 6 月，Facebook人 工智能研究中心在巴黎成立实验室，并在美国纽约和门洛帕克建立了两个单独的人工智能实验室。同年 8 月，Facebook 推出其人工智能助手「M」，这款类似 Cortana、Google Now 和 Siri 的人工助手 Facebook Messenger。
对于Facebook 而言，对 AI 的大力投入不仅仅意味着对 Google 地位的冲击。一个业界的共识是，基于社交数据的人工智能要比基于搜索的人工智能更具备商业和现实研究的价值。
在用户竞争的白热化状态趋缓后，Facebook 在人工智能领域的投入也丝毫不落后于 Google。在 AlphaGo 成功击败李世石并顺利吸引全世界的目光后，Facebook 将会以怎样的姿态「应战」也着实令人期待。
“微软和 IBM：底蕴深厚的老牌巨头
比 Facebook 更早，在 Google 宣布开源 TensorFlow 后的一周，微软也将开放人工智能学习系统，包括多台服务器上展开训练的模块框架、一个主题建模算法，以及一个进行自然语言处理的文字嵌入算法，借助这些工具，开发者可以使用较少的服务器部署大规模的机器学习。
在此前，微软人工智能的两款产品 Cortana 和「小冰」早已为大众所知，这两款产品也代表了当前人工智能的两种表现形态。
基于 Windows Phone 的 Cortana 是一个智能的私人语音助理。微软想通过 Cortana 实现的是与用户的智能交互，而不是简单地基于存储式的问答。它会记录用户的行为和使用习惯，利用云计算、搜索引擎和「非结构化数据」分析，读取和「学习」包括手机中的文本文件、电子邮件、图片、视频等数据，来理解用户 的语义和语境，从而实现人机交互。
而比 Cortana 更具知名度的「小冰」则集合了用户多年来积累的、全部公开的文献记录，凭借微软在大数据、自然语义分析、机器学习和深度神经网络方面的技术积累，精炼为几千万条真实而有趣的语料库，通过理解对话的语境与语义，实现了超越简单人机问答的自然交互。
另一家老牌巨头，早已从硬件公司转型为认知解决方案云平台公司的 IBM 也逐渐延续着其在人工智能领域的影响力。
1997 年，在「深蓝」战胜际象棋大师 Garry Kasparov 后，2011 年，IBM 研发的 Watson 在综艺节目中接连击败人类最高奖金得主和连胜纪录保持者而轰动一时。
2014年，IBM 正式对外宣布旗下的 Watson 系统投入使用，而 Watson 背后的核心技术支撑正是认知计算，涵盖了如排序学习、逻辑推理、递归神经网络等来自 5 个不同领域的技术，包括大数据与分析、人工智能、认知体验、认知知识、计算基础架构。
Watson 通过以证据为基础的学习能力，能够从大数据中快速提取关键信息，像人类一样进行学习和认知。可以通过专家训练，并在交互中通过经验学习来获取反馈，优化模型,不断进步。此外，它还有精细的个性化分析能力，它能利用文本分析与心理语言学模型对海量社交媒体数据和商业数据进行深入分析，掌握用户个性特质，构建 360 度个体全景画像。
目前，Watson 的技术有潜力已经开始应用到商业发展上并推出了「Watson 发现顾问」、「Watson 参与顾问」、「Watson 分析」、「Watson 探索」、「Watson 知识工作室」、「Watson 肿瘤治疗」和「Watson 临床试验匹配」等相关产品。
比起 Facebook 和 Google，微软和 IBM 虽然显得有些日薄西山，但多年来在人工智能领域积累的实力和经验也不容小觑。在后起者不断超越的今天，微软和 IBM 这两家老牌科技巨头肯定不甘心失去「人工智能」这一未来市场。
“Yahoo：人工智能能成为救命稻草吗？
今年 2 月，Yahoo 发布了 CaffeOnSpark 人工智能的源代码，任何人均可使用或是加以修改。CafffeOnSpark 的根基是深度学习，Yahoo 就是用这项技术来识别照片中的不同内容，以此改良 Flickr 网站的搜索结果。
具有创造性的是，Yahoo 发明了在已有的构架上运行深度学习软件的方法。换言之，为了避免把数据从一个地方传输到另一个地方，Yahoo 在 Spark 层次上运行 Caffe，而 Caffe 不仅可以在 Spark 上运行，还可以两者一起在 Hadoop 上运行。
「Yahoo 的开发不仅会让人工智能开发者用更简单熟悉的工具、省去传送数据的麻烦过程，还能让深度学习更方便地同时处理数个服务器的内容。这一点 Google 的 TensorFlow 目前还做不到，Yahoo 领先了一步。」
基于深度学习的 CafffeOnSpark 和拥有几十亿张图片的 Flickr，Yahoo 对于人工智能发展的思路类似于 Facebook；同时，其自身多年积累的搜索、广告和内容数据也为机器学习的深入提供了基础。
在经历了裁员、股价暴跌和出售风波后，已经「掉队」的 Yahoo 似乎还没有找到正确的轨道。人工智能能否成为 Yahoo 弯道超车的救命稻草？我们拭目以待。
“Elon Musk：警惕机器人干掉人类
「AI 的真正风险不在于它的恶意，而在于它的能力。」
霍金曾不止一次地表达过他对人工智能的担忧：
「超智 AI 极其擅长实现自己的目标，如果它的目标跟我们的不一致的话，我们就有麻烦了。你可能并不是邪恶的蚂蚁仇恨者，不会出于恶意踩死蚂蚁，但如果由你来负责一个水电绿色能源项目，然后需要淹没一个蚁窝所在的区域时，对于蚂蚁来说情况就太糟糕了。我们不要让人类落到那些蚂蚁的境地。」
随着 AI 技术的进步，有关「人工智能威胁论」的讨论也日益激烈。
Elon Musk 多次表示，「如果让我猜人类最大生存威胁，我认为可能是人工智能。因此我们需要对人工智能保持万分警惕，研究人工智能如同在召唤恶魔。也许机器人会觉得删除垃圾邮件的最好办法是把人类一起干掉。」
为此，他也和硅谷著名创业孵化器 Y Combinator 的总裁山姆·奥特曼共同创建了人工智能公司 Open AI ，寄希望于将开源其研究成果分享给研究人工智能的每一个人，并通过对行业的监管来将那些带有邪恶意图的过度研究扼杀于摇篮。
OpenAI 的资金来自于一群科技行业的权威，包括 Elon Musk、Reid Hoffman、Peter Thiel、Jessica Livingston，以及 Amazon 云服务。他们承诺，将在未来很长一段时间内向这个组织投入总共超过 10 亿美元的资金。
未来，除了对于人工智能预警的担忧。机器学习还面临着在移动设备上实现的瓶颈。由于大量的计算需要在云端完成，因此所有的结果的实现需要一个庞大网络的支撑，而目前的移动设备和网络还不足以达到这一要求。
「你的手机现在只是接受了数千台计算机为你计算处理的数据，未来更为缩小的网络将会让机器学习的结果更具适用性。」
不论是各家巨头的大力投入还是霍金和 Elon Musk 的担忧，在「摩尔定律」式微后计算机发展的不确定性让从「弱人工智能」到「强人工智能」的阶段充满了各种可能。
人机大战虽然结束了，但人工智能大战才刚刚开始。
本文为极客公园原创
极客公园最新线下活动正在报名&}