按：作者董飞，数据科学家，微信公号：董老师在硅谷。原标题为《AlphaGo 与李世石的对战会推动人类的极限还是机器学习的进步和觉醒？ 》
前言：
世纪人机围棋大战中，知识分子与知乎共同举办知乎圆桌《对弈人工智能》，供网友在谷歌围棋系统AlphaGo与韩国棋手李世乭对弈期间随时参与讨论。本文来自笔者在该圆桌讨论中，关于“AlphaGo 与李世石的对战会推动人类的极限还是机器学习的进步和觉醒？”的回答，下面涉及到人工智能，虚拟现实，超越现实，机器人定律，人类文明。
最近看了一个科幻故事， 在知乎问题下“如果苹果、谷歌、微软打算毁灭世界会怎样？”alienbat的回答，我这里节选一部分：
2050年12月：聚集了三千人的北美人类抵抗军借漫天风雪的掩护冲击至前苹果公司“飞船”总部，意图摧毁Siri的核心计算集群，但最终被AI部队全面屠杀，史称“最后的圣诞节”。最后一个抵抗军战士在被火箭弹炸成肉碎之前，看到了这样一番景象：飞船总部的外墙玻璃全部碎裂，每层楼中都看得见集群工作站的电源LED蓝光闪闪，如同鬼火。和人类抵抗军领袖的想法相反，“飞船”总部对AI而言无关紧要，也并不是Siri Enterprise的核心部分。Siri Enterprise作为分布系统没有核心。
2051年1月1日0点0时：Siri Enterprise对全球发动无差别核武攻击，以图一举消灭剩余人类，史称“审判日”。巨大的核火球在世界各地的城市升起。剩余极少数人类躲藏在山区，放弃全部科技，过着极度原始的生活。全球生态崩溃。
2055年：崩溃的人类社会已完全退化到石器时代，残存的人类在核冬天中依靠搜集文明的残留物，苟延残喘。
这个耸人听闻的故事会不会发生？从昨天的AlphaGo与人类对战，我想到了很多话题，涉及到人工智能，虚拟现实，超越现实，机器人感情，人类文明，我也没有最终答案，就尽量把这些想法整理出来，算是杂文吧。我先回到一个基本问题：如何定义人工智能。
1950年，英国的数学家阿兰·图灵在曼彻斯特大学提出了著名的“图灵测试”理论，代表着人工智能的概念被初步提出。“图灵测试”理论具体为一个人和一台机器隔开的情况下接受测试，要求提问者不断提出各种问题，从而辨别回答者是人还是机器，如果机器有30%的回答骗过了提问者，那么这台机器就通过了测试，并被认为具有人类智能，即人工智能。
比如你如果反复问被测试者同一个问题，“你吃药了吗？”连问五遍，假如被测试者是人类，多半会蹦出来骂街：“你丫神经病烦不烦啊”，但机器人则不会，机器永远会基于答案的对错来回答问题，这就是计算机与人类大脑的区别。2014年6月7日，也是图灵逝世60周年，尤金·古斯特曼通过了图灵测试，达到13岁小孩的水平，是人工智能乃至于计算机史上的一个里程碑事件。
前段时间，笔者跟田渊栋（卡耐基梅隆大学机器人系博士，Facebook人工智能组研究员）交流，他做的也是计算机围棋AI－－黑暗森林（熟悉三体的朋友知道怎么回事），今年1月份被机器学习顶级会议ICLR 2016接受（表达学习亦被江湖称作深度学习或者特征学，已经在机器学习社区开辟了自己的江山，成为学术界的一个新宠）。他在聊天中谈到，自从谷歌收购了DeepMind，投入大量资源去做好人工智能项目，不为别的，就是要向世界证明谷歌智能的强大。发表在顶级期刊《Nature》的论文光看作者就20个，明显是下了血本，前两位都是计算机围棋界的大牛，一作David Silver是计算机围棋和强化学习的顶级专家，整个博士论文就是做的围棋; 二作Aja Huang以前写过多年围棋软件，自己又是AGA 6D的水平。
在昨天的《知识分子》线上讨论群中，有人问机器会诈输么，这个问题其实是伪命题，因为问的人假设机器已经产生意识，那么假装输给人类以争取发展时间，待强大以后再消灭人类。这显然太高估机器了。
围棋是信息透明的游戏，而在一些信息不透明的游戏如扑克中，任何出牌都可能造成信息泄露。机器完全可以选择牺牲局部以避免信息泄露。
AlphaGo这次用到了1202 CPU，176 GPU，100多名科学家，而另一边李世石，一个人脑＋一杯咖啡。
在这些封闭的博弈系统中（围棋），战胜人类这个也不奇怪，因为它虽然计算复杂度高（10^100以上)，但是每个状态是确定性的，就在棋盘方寸间；而一些社会行为，比如股票投资不确定因素就大多了，所以其他类似的确定性的game机器迟早都会赢的。
我记得有些预言家说过未来20年，98%的人类工作将会被机器取代，那么我们现在要怎么做？怎么才能成为那2%的人，人类怎么办。我想办法总会有的，通用智能也不一定那么快就能到来，还会有很多未知障碍，比如让机器去发展科学理论。有一点可以肯定，有生之年，机器会取代越来越多的人类劳力，这是双刃剑，既是好事也是坏事，自动化生产线取代部分劳动力，可能人类会越来越懒。但我想创意灵感还是机器学不来的。
人与人的差异性是人类创造力的基础，正是丰富的思想造就了科技的繁荣，想到春秋诸子百家，文艺复兴时代，世界第一次大战前，民国时期，百花齐放，大师辈出。但思想差异同时促成了种族、信仰、国家的产生，也是战争与仇恨的源泉，如果世界是一个整体，自私的基因怎么会让自己资源不均呢，怎么会觉得自己有的部分处在不公的位置呢？
人类文明中的智力正在实现指数式的增长。技术是文明的一部分。人们讨论机器和人类的冲突，但是，库兹韦尔说“我们创造的机器并不是来自火星的入侵者，我们创造了工具，以扩展我们自身的能力。” 说两句他的背景，学术界出身，后来任Google首席工程師，执掌Google Brain计划，多次发表他对科技未来预测，据说准确率高达86%。成立“奇点大学”，这个大学的名称和教育探索，源起于一本《奇点临近》的图书。
这是他在奇点临近的书提到的加速回归定律，人类的科技在2050年左右必将跨过一个拐点，然后由于纳米科技、基因科技、机器智能这三块技术的发展，人类会与机器结合、改造自己到最终变成机器，结局是：将奇点人的光辉撒向宇宙。
引用他的两个预言：
“人脑云端互联”
库兹韦尔认为到2030年，人类血液中放入数亿万级别的血球细胞大小的奈米形式微电脑，协助维持人体功能，甚至进入大脑，把大脑皮层和云端网络连通，所以人在思考问题，就可以通过大脑皮层连接。
“永生进化”
库兹韦尔把「永生」视为不断进化的过程，没有所谓的永恒，真正谈的是人类走向下一个阶段：
第一阶段人类通过补品来维持生命健康。
第二阶段生物技术革命，人类远离疾病。
第三阶段时纳米技术革命，那时人类将纳米机器人植入血管、器官中，增強免疫系統。它能识别所有疾病，而且可以对抗新疾病。预计2045年，人类可借助人工智慧获得“永生”。
“我们是一个人类—机器文明。机器是我们智力的一部分。” 机器智力的部分会飞速成长，从而导致奇点的到来，人类的历史也会改变。那时候，人类将更加富有、更为长寿。他更关注是富有的方面。富有并不只是财务上的，科技将使我们的生活更加丰富，通过扩展我们的智力，人类表达的所有形式，艺术、科技等都将会得到扩展。
智能电脑到底是人还是机器的意识，学术界著名的“10个思想问题”之一“缸中大脑”的故事。
这个实验的内容是：想象有一个疯狂科学家把你的大脑从你的体内取出，放在某种生命维持液体中。大脑上插着电极，电极连到一台能产生图像和感官信号的电脑上。因为你获取的所有关于这个世界的信息都是通过你的大脑来处理的，这台电脑就有能力模拟你的日常体验。如果这确实可能的话，你要如何来证明你周围的世界是真实的，而不是由一台电脑产生的某种模拟环境？
强人工智能是人类发展的重要里程碑，形式不重要，也许不是量子计算机，没有实体，也许是一种意识场，如同特斯拉的无线能量传输。
有一次坐飞机时候看过一部电影，《超验骇客》，这个与开头提到的科幻故事有些类似，天才科学家威尔的意识数据化上传到智能电脑中。奇妙而幸运的是，成功在虚拟世界中复生，他进入任何一个电脑系统获取信息，可以监控任何一个角落，他知晓一切，并且发明新的纳米技术——修复受损细胞、增强再生能力，治愈一切残疾。最后把思想复制到别人脑中，而这些肉身可以自我修复，成为威尔永恒的力量。
这个片子细微之处在于当被问道是否要毁灭全世界，威尔答曰：不是。我只是超验他们。电影的英文名Transcendence，翻译过来是“超越”，其另一个涵义是宗教方面的“超然性”，相信电影用的是后一种释义，Transcendence代表这对神的超越，也就是凌驾于造物主之上，说白了，就是让威尔变得比造物主更加牛逼。
机器人会不会统治人类乃至消灭人类？阿西莫夫提了三定律以后又加了第零定律：机器人不得伤害人类整体，或因不作为使人类整体受到伤害。在我看来，这条加得大有问题。前三条其实没什么用处，阿西莫夫也意识到了。他赋予机器人保护人类的责任，如果机器又具备足够的武力，那么必然出现的情况就是，机器根据其不成熟的智能，判断为了人类整体必须消灭一部分坏人，这时候所有挡在它路上的人都会被当成坏人，必须消灭掉。在这里用了“必然”一词，这是因为理性永远不能穷尽世间万物的规律。哥德尔定理说了，任何蕴含算术的系统，就会在系统内碰到无法证明的命题。机器只会根据概率高低做一些判断，取最大可能性，但这样不是人类思考和推理方式。
我是符合逻辑的选择。它计算出了我有45%的概率生还，但是萨拉只有11%。她也是一个人的孩子，11%也许够了。每个人类都知道怎么在警察和12岁的小女孩之间抉择，但是机器人不会。 ——戴尔·斯普纳（电影《机器公敌》中的警探）
那么应该怎样约束机器？有一条就是绝对服从人类命令。要是给坏人控制怎么办，这就是人与人之间的问题，而不是人与机器了。
大家认为这张图中到底左边药丸是红色，还是右边是红色？
如果我把背景去掉，你就发现药丸颜色是一样的，但既不是红色也不是蓝色，所以你的视觉欺骗了你。就是说周围的世界是由自己的头脑创造出来的。（reality is created by mind)，当我们在生下来通过视觉来学习外在世界的表征，在大脑皮层建立映射，就“看到了”东西。
虚拟现实，增强现实当下的科技发展热点，技术方面很快就要成熟了，之前笔者也发过《AR技术不得不说的秘密》，笔者最近看了这本心理学的书（作者斯坦福大学虚拟人机交互实验室创办人Jeremy Bailenson）。
作者讲一件事情：其实我们所看到的东西，并不一定都是现实。首先，很多层面的现实，是人类的感觉器官无法捕捉到的，例如，我们看不到红外线，我们闻不到一氧化碳。并且，人们接收到的感官刺激的质量——天空的颜色、玫瑰的香味、砂纸的触感、钢琴上弹出的低音 C——对每个人来说并非完全一样。所以，包括赫胥黎在内的许多科学家、作家和哲学家，到宗教领袖们，都认为所有感觉实际上只不过是拥有一些特质的幻觉而已。
可以说我们所讲的现实，往往只是我们意识到的现实，它有时候只是现实的子集，有的时候，则是经过意识加工、偏离现实的幻象。
虚拟镜子里的自己
书里面提到有两个你，虚拟现实中的你，一个是online模式，还有一个是 offline模式。虚拟世界中的人物一般有两类：一种是屏幕背后有真人操纵的角色，可称之为“化身”（阿凡达）；另一种是由计算机算法生成的角色，叫代理（agent）。如果没有“实体的接触”，一般人很难判断屏幕的对面究竟是化身还是代理，也许凭一些小的细节就会把对方当做真人（联想到苹果手机中的Siri，或者微软研究院做的智能助手小冰）。
哲学拷问，究竟什么是虚拟，什么是现实？究竟如何才能知道什么是真实？现实止于哪里，虚拟开始于哪里？可以让自己在另一个世界中时间旅行？宇宙到底有没有时间，还是只是我们定义自己的存在而假想的概念？
我思故我在
“你自己可以欺骗你自己，你看到的信息是由头脑决定的，你怎么去解释。从“心静自然凉”到笛卡尔“我思故我在”，是意识主义的进阶。前者只是强调意识可以影响肉体，后者则完全否认了肉体决定意识的观点，它认为人的思想才是一切物质的基础，失去了思想的身体就是行尸走肉，不具有任何意义。有个玄幻小说，作者普遍认为人的灵魂是一组记忆码，本身拥有极其强大的能量，反而是肉体的存在束缚了灵魂的力量，作者甚至幻想具有高度文明的外星人已经脱离了形体，全是一组组含有超多信息量的代码，仅靠“思想”就可以完成一切行为。”
——来自于《黑客帝国》影评
你选择红色药丸还是蓝色药丸？
影片黑客帝国抛出了这样一个令人深思的问题。如果选择蓝色的药片仅仅是让生活像以前一样继续。如果去拿红色的药片，警告说：“记住，我要告诉你的只有一样东西——真相。”红色药片象征着风险，怀疑和恐惧。也许你的生活和世界押在一个从未体验过的上面。在人类历史上许多人都已为此提出疑问或进行探究，他们中的大多数并非科学家、医生或哲学家，而仅仅是爱问“怎么了”或“为什么”的普通人，而这些好奇心最终引领我们发现真理，推动科技和社会前进。
上面的哲学思辨也许有杞人忧天，或者不切实际，那么我们仰望天空的同时，当下要怎么做？路在脚下，飞不了就跑吧，我还是拿田博士在《2015年末总结 —远东轶事》说到的作为激励：
在我有时候会问自己：“我是不是背弃了梦想？”我想除了我自己，任何人都不会给我答案，任何评论也不具效力。我记得有人问过，如果梦想从践行的一开始，就在不自觉地向现实妥协，那样的梦想还是最初的梦想么？其实，这样的问题没什么可纠结的，因为世界从来就不是二元的，梦想和现实，如同高悬的日月，日月之间，有一条灰色的路，在自己脚下蜿蜒曲折，绕过各种险阻，一直向前。
而我能做的，只是要在奔跑时，不停提醒自己，还记得“梦想”这个词的含义。
参考资料：
为什么最近有很多名人，比如比尔盖茨，马斯克、霍金等，让人们警惕人工智能？
关于《三体》、黑暗森林、费米悖论和我们所不知道的一切
为什么阿西莫夫的机器人三定律救不了我们
绝对意识主义 (黑客帝国 影评)
虚拟现实：从阿凡达到永生_36氪
Google 工程主管 Ray Kurzweil：我们是一个人类
正在生成分享图...
我在思考中