恶人谷

知道结果了，我就去睡了。怀着还不知结果时根本不知道会有巨大感情伤害。明天上来聊。

我也看了！为什么会有感情伤害？机器赢是迟早的事，国象也照样在下呀。

可惜李世石发挥一般，心态还是有影响。正常发挥应有一战。

如果机器真的能变成跟人一样，倒也挺好的，世界上的人际关系就会完全变得极其容易了，个人再也不用跟隔肚皮的他人打交道了，只跟绝对安全的 Siri 交朋友。人真奇怪，老想着去外太空找智慧生物，觉得自己在地球上独大很孤独似的。其实几百万到几十万年前就有很多我们的同类在地球上生活，我们忙不迭地把他们给灭绝了。现在要制造出跟自己一样智慧的机器了，不孤独了吧？又害怕被机器灭掉。

我不明白为什么每次电脑能干一件什么事情比人强了就会发出一片机器要统治人类的呼声。不就是有个算法加速度做上去了嘛靠下个围棋怎么就能统治人类了。 比掰手腕人还掰不过机器呢。任何游戏只要能明确定义规则和输赢，机器比人干的好那是迟早的事啊……

我copy一下我看Ex_Machina的观后感，

有时又不免想，为什么害怕呢，因为潜意识里还是觉得机器一旦有了智商，就会伤害人类么？这是基于人类自古以来就有的排外原则么？所以认为以自己为模本设计出来的机器人，会自然而然取人类而代之。又因为他们不是血肉之躯，战斗力更强，计算能力更快，于是无法匹敌？

因为人自己也知道，咱们本来就不是靠力量取胜，乃是靠大脑。一旦又有大脑又有力量还风雨不侵无血肉的机器出现，大概就觉得被伤害是必然的吧。

但是人脑有创造力，电脑在创造力上还是没什么实质进展。人类文明的极大跃进：学会用火，发明轮子什么的，电脑都是做不到的。

人老喜欢把自己的攻击性投射到别人身上。机器人还没主动陷害过谁呢，最喜欢陷害别人的人类就以己度人了。

Knowing wrote:但是人脑有创造力，电脑在创造力上还是没什么实质进展。人类文明的极大跃进：学会用火，发明轮子什么的，电脑都是做不到的。

这个嘛，按照机器学习的进展，也许迟早会有。人的创造力也有一个量变到质变的过程，而且很多创造有模拟的痕迹，做飞机是模拟鸟，做船是模拟叶子浮在水面，潜水艇模拟鱼，超声波模拟蝙蝠，都是通过观察某一样已经有的东西制作出来的。电脑可怕大概就是这个东西是模拟咱们人自己做出来的，现今的机器学期就是给机器大量数据的feeding（说错勿怪，我也有阵子没听贵人讲他的题目了），当然理解数据模型目前还是人设计的，然后再用现实的数据来应征模型的正确性。也许有一天机器会自己理解数据，然后通过数据来了解人，进而自主的而不是靠程序设计的方向模拟人。
电影电视剧等等创造出来的可怕AI就是在电脑自主的发展出人的七情六欲以后，取而代之嘛。

但是人的七情六欲什么的是从群居，社会性来的，不是从智能来的。

机器也可以联网，交流更便捷，还没有语言的障碍和误解
说真的，人类这个感情一直被自诩是独有的，无论是自己的感情，还是被别人以感情manipulate，这些都一直是人类自认区别于别的机器啊动物啊之类的东西吧。大部分AI电影最终也都是赋予机器感情，或者让机器在学习过程中学到了感情这种东西，Ex_Machina里面也是围绕这个题目来的。
但是关于这个所谓人类独有的感情吧，艺术家可以为题创作，统治者宗教和舆论，都不免用之达到目的，真有点细思恐极的感觉。

今天在微博上看见李松蔚说，不知道为什么这么大动静，我早就下棋玩不过电脑了啊。

很有趣的角度看这个问题。李世石又不是我，他被打败跟我有什么关系？电脑早就比世界上几乎所有人都更会下棋了，为什么只有这件事才让我们惊慌涅？

拓展开来，中国古代人有四大发明，我为什么要因此自豪，我啥也没发明过。古希腊有亚里士多德，我不能因为他而自豪吗？蔡伦和亚里士多德，跟我的关系，有差别吗，吗，吗。。。？中国足球队获得世界冠军（开玩笑的），我应该自我膨胀一番吗，我连点球都射不进 ...

我来说我来说。我要说的很长，可能不能在接娃之前写完了。写到哪儿算哪儿。

我昨晚上在朋友圈那个一路的解释哟，朋友圈偏偏大家又互相看不见，我左解释右解释，累死了，也没对其中任何一个人说完了全部的话，然后我就洗洗睡了。

是这样，我在还没知道结局的时候，蛮nerd的希望阿法狗赢的。但是知道结果的那一霎那，巨大的震惊和伤心一下涌上心头，套句文艺的话说：那一刻，我听到了我心碎的声音。然后我就需要在朋友圈里解释为什么我心碎了。理工＋科学男女们都不理解我的情绪波动。

从头开始说，国际象棋和围棋完全不一样，简单滴说从目前我们人脑的理解和计算机水平上说，国际象棋都是有限数量级的变化，规则可算是简单直接：赢就是吃掉对方的王，棋盘上棋子数量递减，所以从前的残局可以被今天的选手遇上可以在对局中用，同理计算机也可以用。所以当年深蓝用穷举法就可以玩国际象棋。围棋则不同。第一围棋的棋盘格数多，没有固定的楚河汉界，从数量级上（此处我没时间上网查了，就随口说数字了，有心的同学请指出错误），围棋可能的步骤数量级为10^127，国际象棋的数量级是10^40，整个宇宙的原子总数10^34。那大概除非用量子计算机，穷举是不可能手段。第二围棋规则比国际象棋复杂许多，关于输赢的界定就非常不清楚，这样很难用简单数学描述来归纳目标。就好像学围棋的人都是慢慢下出来的，围棋讲究“棋感”。很多胜负的定论是根据期盼面貌下的结论。（其实“棋感”这个词我个人意见就表达了人脑处理信息的非数学化，当信息大到一定程度的时候，不再使用直接理性思维。完全个人意见，后面我再回头说这点。）这样，在围棋中，虽然成为真的“围棋名人”在一定程度上，重要的甚至不是输赢多少局，而是有没有“名局”。而“名局”与过去的残局对当前围棋手的意义，不是可以在对局中使用，而是从中“学习”。简单粗暴滴说，围棋没用同样的局。所以前人的残局数据库在对局中是没有意义，但你可以从中“学习”。此处机器人同理。

然后，深蓝与阿法狗是完全不同的东西。深蓝是为了国际象棋对弈而特别制造的特殊硬件，对特殊软件。深蓝的学习是人工筛选知识库，喂给深蓝，哪步棋走错了，那是个bug，去修一下好了。这一点同样证明了深蓝的知识库是有限数量的库，它的知识天空是个封闭的空间。换句话说，深蓝除了会下国际象棋，不可能学会干任何其他事情。深蓝只是探测了计算机里的算法软件，和硬件速度的能力。阿法狗不是这样的。阿法狗是个通用软件，是目前最之一时髦的深度学习（deep learning），学习了人脑的神经元的网络交互行为。它不是为了下围棋设计，学习围棋只是第一步的实验。理论上阿法狗可以学习任何知识，医药啊，什么。那么为什么又是棋类呢？因为围棋是前电子游戏时代最复杂的人类游戏，很可能是包括电子游戏在内的所有人类游戏中最复杂的人类游戏。人工智能最先在游戏中测试使用，是因为游戏世界比现实世界简单许多。对弈围棋，对弈围棋的当前世界第一的人类选手，可以说是AI走进现实世界的最后一步了。（不要忘了人类游戏是从人类的社会行为中简化下来的，对弈棋牌其实是简化战争。）这也是为什么此次对弈在人工智能上意义重大。（不是机器人史上意义重大吗？）阿法狗与李世乭的对弈甚至没有花太长的时间，比如我开始想的5个多小时。李世石不是很久就露出败态，黑白双方所使用的“思考”时间几乎对等。那么无论后面四局胜负如何，人工智能在某些决策方面已经达到了人脑的决策程度。注意不是人脑下棋的方面，是某些决策方面。因为阿法狗是通用软件在通用硬件上跑。因为阿法狗是通用软件在通用硬件上跑。因为阿法狗是通用软件在通用硬件上跑。重要的事情说三遍。阿法狗学习围棋的方式，或者说阿法狗学习任何事情的方式，跟人脑是一样的，不停地练习－》学习－》练习。它除了研究其他人下棋，还自己不停跟自己（分身）下。

到此，还不算什么。
不过回头看看。我2006年搬家去苏州的时候，梦想有一天，我们能把买到的书籍，音乐，电影都存在服务器上。这样搬家方便。2011年亚马逊宣布了Amazon icloud drive。当谷歌刚刚出来的时候，搜素还是个经常需要不停试关键字的工科生思路的东西。（小美你记得你当时说过有些男生特别会搜索吗？），今天人人都用谷歌。原来我还在用yahoo邮箱的时候需要经常性地自己手动修改垃圾邮件的过滤关键字，但是仍然防不胜防，微软的邮箱当年我记得你如果用它的邮箱订阅了一些电子杂志或者定期广告就自动给过滤掉一些。但是今天我们基本不再去想这些问题。就是说我们今天习以为常的生活中时时可见的弱人工智能，就是这十年的事情。没有人会觉得这些弱人工智能（Artificial Narrow Intelligence）好可怕，因为我们太习惯了。可是十几年前，这些都还是天方夜谭。你回去跟1990年的自己去解释一下从Yahoo！到谷歌的越来越方便，甚至只是去解释一下移动互联网，4G的！都很困难。
1996年及1997年，深蓝两次与卡斯帕罗夫对弈，96年负，97年胜，IBM股价大涨。之后卡斯帕罗夫提出再战，IBM拒绝，并迅速拆除了深蓝。
2015年10月阿法狗对弈欧洲围棋冠军华裔法籍棋士樊麾二段，当时阿法狗是运行在分布式硬件上的。
然后昨天阿法狗的软件版本是否与樊麾时一样，我看到不同说法。但是硬件只是单台计算机。
是这个发展速度。这个发展速度是个指数曲线，暗合摩尔定律。换句话说，发展速度会越来越快。
当前，深度学习是硅谷的大热门。每个公司都想办法赶这个时髦，这波热潮刚刚开始。而深度学习的软件是有开源的。脸书的dark forest 据说2个fresh PHD 搞了三个月在网上围棋赛场达到业余6段水平。也就是说目前的技术并非谁家独步天下，而是大家都能够享受。（这个dark forest的名字没有受到刘慈欣的影响吗？Mark同学去年刚刚读过《三体》呀。）

是这些所有的想法在头脑中一瞬间让我产生了巨大的情绪波动。而我是在不断跟朋友圈里解释时才一步步说清楚理性想法。换句话说我的头脑的情绪反应比理性推导要快很多。如果是在远古时代，这种情绪变化马上会让我处于战斗模式。事实上昨儿晚上，我也并不再思考这个问题了，但是大脑已经兴奋地睡不着了，我仍然还是进入了我并不需要的战斗模式。为什么呢？

因为在跳过了上述所有理性推导过程时，我直接跳到结论：我觉得我们已经站在了强人工智能（Artificial General Intelligence)的门槛上。虽然可能还没接触到门槛的边边，目前人工智能是我们的理性思维去模拟我们的理性思维，就是我前面说的人脑已经可以模拟出人脑的某些决策。但是我们大脑千百万年进化，理性只是一小部分。像我昨天这种立时的情绪反应，是一种保命反应，应该更早于人的社会性，就是别想了，快跑！这种我们大脑觉得很简单的事情，反而人工智能觉得很难。（但是阿法狗不是已经开始有棋感了吗？）

那么以这样的速度发展下去，在我们这一代的有生之年是否就能看到强人工智能（就是人工智能在艺术，情感，抽象等方方面面的复杂人脑活动中都达到人脑的水平）。那时的世界是我现在完全无法想象的，完全不同于我希望书本，音乐能够存在云中这种小规模的愿望。人脑又是否能够适应这种完全无法想象的快速变化的外部世界呢？（再加上虚拟现实！那个世界跟我们的进化历史毫不相干）未来是不是每个人都需要个心理医生，还是干脆变成了大脑激素医生？我们的社会关系，人际关系会不会因此发生巨大的变化呢？我们需要研究人工智能的社会属性和与人类的社会关系吗？最后强人工智能是否真的会创造出超人工智能呢？在目前专家们的人脑们能够达到的理论想象中，那里就是永生或者灭绝的分岔口。

我写完了。

狗又要赢咯

不会吧？！此处静音掉脏话。

输铁了……不过李世石中局还是有机会的。高手一度认为他稍优。

狗就像是李昌镐，不求每部最佳，但牢牢掌控大局。

另外李世石避开了打劫，不知有没有这方面的限制。

小地方似乎还有不足。但大局方面，通过不断定量计算，比人类半靠感觉的判断出错可能性要小。

人要赢必需要下出名局。始终保持大局正确不落后，然后在小地方占些便宜然后小胜。不是不能，但很难。

但是我们大脑千百万年进化，理性只是一小部分。

Exactly. 理性之下的巨大一片功能（计算量与功能远远超过理性/知觉的部分），人连自己都搞勿清，怎么可能教给机器？机器早就算得比人快了，以后要比人算得更快，即某些人所谓的“聪明”。So what? 能导致“我灭了你”，“我把你赶尽杀绝”的愿望和手段，跟这种“聪明”有直接关联吗？

Homo sapiens 把自己的亲戚古代类人都给赶尽杀绝了，在自己之间也是，但是！在物种之间并没有那么大力气和意愿去主动杀绝跟自己不同的物种，人类导致的野生物种灭绝，基本上都是间接的，不是主动的屠杀。

所以我一直对于“三体”里面的理论极其不以为然。外星人之于地球人，比人类之于海豚的关系还远一千倍，人没那么大兴趣浪费自己的资源去把海豚赶尽杀绝，外星人就这么有兴趣这么起劲？人只对跟自己直接竞争的同类才这么有兴趣。

我读了下讲alpha go 算法的文章，理解是他跟深蓝主要区别在于评价函数很不一样。象棋可能的move 有限一些，用阿尔法剪枝和硬件加强能够找到N步后最有利的move.N越高越当然越牛。 围棋变化太多不能这么做，所以用的是feature recognition 来评价某一局势，也就是说不追求看的越远越好，而是通过喂名局建立起始数据库，然后反复练习改进评价的准确度。
不是要抹杀这个事情的重要度啊，是很重要的。但是呢，本质上还是在明确规则和现有数据上出发的学习能力，跟创造能力是两码事。因为神经元网络并不是新概念，我不觉得这事儿多么惊天动地，而是迟早的事。

人工智能大多数理论工作都是几十年前就做完了。 实现是靠硬件的进步（深蓝： 我就是算得快算得快）和平行计算平台的进步。

我也觉得机器人赢了人不意外。李世石的对局机器都知道，而机器的对局资料不多，李世石也不可能事先研究它的弱点－当然研究了也赶不上它的变化。

我忘了在哪儿看到的说法，可能是 NPR news，会下棋的电脑只会把算法用到下棋上面，不能象人那样把同样的技巧应用到其他方面和功能上。换言之，人的智能用在生活各个方面，下棋只是其中之一，而电脑的智能不是这样的。AlphaGo 再会学习，也不能自己教自己怎么写程序买卖股票吧？

这个只是时间的问题吧？我确实是觉得，人工智能这个事情，质变已经达到了。

不是吧？现在的人工智能不能融会贯通举一反三，以同一套方法解决完全不同的问题：例如自动驾驶的车子不会教自己下围棋，下围棋的电脑不会指挥交通。How does one algorithm solve different kinds of problems?

simonsun wrote:小地方似乎还有不足。但大局方面，通过不断定量计算，比人类半靠感觉的判断出错可能性要小。

人要赢必需要下出名局。始终保持大局正确不落后，然后在小地方占些便宜然后小胜。不是不能，但很难。

深蓝是定量计算，阿尔法狗是半靠感觉。 神经元网络用的是概率， 各种参量是积攒经验中学会的，和人学习过程很类似。学好了模型建好了就可以举一反三。比如可以和完全没有见过的棋手下。 之所以下棋机器人只会下棋， 是因为运算能力还不足， 所以专长一样。 今天刚好有篇文章讲现在投行发现雇佣有经验牛trader,不如雇佣新手加计算机技术。

我和小K一样， 觉得还是量变不是质变。

哇，话题好多！

AlphaGo是通用软件，所有做决策的地方都可以使用。比如开车的路线选择，现在要不要换车道之类。日常生活中有无数需要做决策的时候：今天冷，下雪路上已经开始堵车，那么早点出门比较好，车子可以自动先预热除霜什么的都是决策。其实医生开药，护士检查病人的时候也是。并非只是下棋软件。人脑中的各种功能区也是很多的，并非只是一片中枢做决定。AlphaGo不是模拟整个人脑，只是模拟做抉择的过程，包括从过往经验中学习之后做抉择。开车简单点儿说就是外围触点代表眼睛耳朵收集信息，然后做决策。买卖股票也是需要决策的。（深蓝没有这种通用性。他不能自主地学习。必须得别人帮他学习。所以他永远只可能比喂他学习的人差。）

理性，我觉得是，综合Jun那个The day until yesterday的读后感（which我还没来得及回帖），农业社会群居生活开始了才需要的吧？所以才进化出来的吧？巡猎的部落需要的理性比较少吧？是建设和谐社会的需要？然后在稳定社会中理性能够让我们把知识一代一代，一层一层地搭上去？（我的猜想）然后我们就特别自豪于自己的理性，（因为这部分理性知识积累是脱离基因的？）觉得这是人类区别于动物的本质。是站在食物链顶端的，在星球上占数量最多，占据资源最多的种族的自豪。但也因为是最近才进化出来的，所以相对比较简单，所以才能最先在人工智能上实现吧？（完全胡思乱想啊。）

那个永生还是灭绝，不是我的理论。因为那里是目前人类想象的极限，所以我就当科幻小说来看。还.......挺能自圆其说的。所以看得我津津有味。（记得我很推崇想象极限的科幻吗？哪怕很有些弱点的想象。）不过，因为是极限处想象，所以也不必特别当真，我就随便解释一下。人家不是描述的好莱坞电影里，终结者那样的人机大战的末日战争。（所以段子手们白忙了。 ）那种战争是为了电影的感官刺激，至少人类在里面是非常能够让观者骄傲的。 而观众也真的被电影限制了想象。超级人工智能的理论则是，如果真的有超级人工智能，则没有什么能够说明为什么超级人工智不会越来越好，程度好到，人类与猩猩的智商在他们看来差别并不大。那么超级人工智能则可能取代人类成为本星球上的主要智能生物。人类没有“进化”过他们，进化速度比较慢，那么人类就可能跟其他历史上的很多动物一样，慢慢的消失（，笑嘻嘻加：如果超级人工智能不给我们建保护区的话。）该理论同时说：随着人工智能的发展，我们将会需要重新定义什么是人类。

以下是我的理解：
这个理论有很多“如果”，首先我们并不能确定，人是否能够造出跟自己一样智能的智能生命，（上帝也只造出比自己差的人哦。）（进化真的能被人类的自身抄袭模拟性的创作打败吗？？？？？或者说进化能够被人类对进化（目前）结果的抄袭打败吗？？？？？？这是我最大的疑惑。）其次，智能本身是否真的无极限呢？Jun那个帖子里讲马克思，马克思的一个盲点就是他认为资本的价值会无限制地增长。马克思是因为他站的历史位置，所以他的预测有此短处，那我们对未来的预测也会出同样的盲点。但是，但是！尽管有这样那样的如果不成立的可能性，我在想如果人工智能未来能够携带人类的基因，（非常可能哦，你们那些搞生物的人才是真正的元凶！）那人类对基因的用处就没有那么大了。既然我们的作用不大了，灭绝也不是不可能的。（但如果基因抛弃了我们，我们就想办法以理性思维的方式永生，我也不跟你玩了！《－－这部分脑洞太大哈。）所以我觉得还蛮能自圆其说的。

另外，我并不是真的相信这个理论所以产生害怕，所以同学们不要惊慌。我是因为我一直向往能穿越到未来看看我无法想象的未来世界。突然觉得也许这个愿望没有那么遥远，可能真的能实现，所以忽然怯场。

补充一点：想象5岁以前小孩的大脑，你教什么他/她学什么。AlphaGo 说是通用软件，并不是说他需要成为十项全能。只是说让他学下棋，他就是棋手；让他学开车他就是司机；让他学股票，她会买卖股票。Alphago此时是一个跑在单机上的软件，造价低到量产成为可能。他并不是一个超凡脱俗的通晓人类全部知识的中央控制台，像电影鹰眼里那样。而是说你的自动驾驶汽车里可以使用该决策软件。你的家里或者手机里可以有她实现的小管家管管琐事，订机票，订旅馆，甚至买卖基金股票之类。你去看病，医生护士可以使用类似的人工智能。有句话说的是人们一旦使用人工智能就不把它叫人工智能了。因为人们认为人工智能很遥远。团圆出生时，医院使用的急救措施就是医生护士围着一台机器周围，婴儿放在上面。屏幕显示做那些急救动作、措施，医生护士就按照屏幕上显示的去做。这就是我们现在的人工智能。

当年IBM为了避免卡斯帕罗夫能够报仇，赢了之后迅速拆除了深蓝，简直就是耍赖。而Alphago已经没有能够拆除这个概念了。换台机器呗。

AlphaGo是通用软件，所有做决策的地方都可以使用。比如开车的路线选择，现在要不要换车道之类。日常生活中有无数需要做决策的时候：今天冷，下雪路上已经开始堵车，那么早点出门比较好，车子可以自动先预热除霜什么的都是决策。其实医生开药，护士检查病人的时候也是。并非只是下棋软件。人脑中的各种功能区也是很多的，并非只是一片中枢做决定。AlphaGo不是模拟整个人脑，只是模拟做抉择的过程，包括从过往经验中学习之后做抉择。开车简单点儿说就是外围触点代表眼睛耳朵收集信息，然后做决策。买卖股票也是需要决策的。

决策的第一步是define问题和变量，第二步是确定如何估计决策好坏。第三步是有效的搜索决策空间。任何人发明的游戏在第一步上几乎都是非常well defined 的。alphago 在第二点上算是突破，但远远没有到可以自行对所有决策问题求解的地方。因为很多实际问题恰恰难在第一步。当然现在也开始有算法学习筛选变量。拿选股票来说，那么多数据看那些，这个建模过程很关键啊，input 要太多，后面算不过来，而且很多数据可能没有。然后现有的模型很多是基于trader 以前的经验建立的。当然一旦建立了，计算机比人不受感情波动影响，有可能做的更好。但所有的自动交易都有危险阙值提醒人查看，就是怕模型里有没有考虑进去的变量，某个几十年没动过的东西，以前拟合测不出来，现在实际上发生。

笑嘻嘻思维太跳跃了，不太能 follow.

人是否能够造出跟自己一样智能的智能生命，（上帝也只造出比自己差的人哦。）（进化真的能被人类的自身抄袭模拟性的创作打败吗？？？？？或者说进化能够被人类对进化（目前）结果的抄袭打败吗？？？？？？这是我最大的疑惑。）其次，智能本身是否真的无极限呢？

人类现在不能造出跟自己思考一样的程序，这是因为人对于自己的思考过程还不太了解，实际上每个人觉得“我很了解自己”的感觉是一种假象。科学对人脑有一些了解但是只是冰山一角，如果对自己的思维都摸透了，有可能全部用程序复制，但是何必复制全部呢？只复制可以服务于自己的就好了，那些“人性”的地方就不要复制进去了嘛。如果复制出来的机器人里不含有竞争与攻击性部分，纯为人类服务，有什么好打的？做人类的欢乐奴隶即可。

地球上什么东西都不能无极限，即使是硬件，也不能按照那啥啥的定律，每隔N年翻一倍。最近看到一篇报道（也是在 NPR 上的，你可以自己去找找），说这个定律从七十年代开始一直保持，那是人为的不是自然现象，大跃进到现在，已经跟不上了，这两年注定要失败，行业内的人再拼命也达不到了。

剩下的想法同小K。AlphaGo 到底能自学多少，怎么学，具体我也不懂，但是据我所知，教它学围棋下法的都是人输入的规则和算法，它并不能学了围棋规则就主动去学围棋战术或知道怎样学战术，而且也不能把学习围棋战术的 algorithm 应用在学习医学诊断上。如果要人工智能做医学诊断，那得先输入医学诊断的规则和学习算法。但是如小K所说，电脑一旦接受了被程序员 well-defined 问题和算法，就能比人类做得更好，因为它可以储存更多的数据而且不受个人状态和 bias 影响。在既定范围之内学习和融会贯通横向应用不是一回事。

机器学习可以是知其然不知其所以然，现在时髦的大数据机器学习就是强调这一点，不用把后面的原理弄的太清楚，尤其是跟人心理有关的问题，本来就弄不清楚。典型例子是房地产网站估价房子。某房价格是没有绝对“正确”或者“道理”可言，房地产网站的做法是收集大量周围房地产出售时间和价格，卧室数，面积，等等，然后进行拟合修正来发现这些因素对房价的影响，然后把要估计的房子带进去算一下。这模型就有很多因素是没直接包括在但是被proxy 进去了，比如经济增长货币贬值都可以从同期附近房价波动体现出来。所以即使能相对比较准的估计现在房价，模型压根不知道为啥过去房价走势上升或下降，也没法太准确的预测将来。

硬件速度出现质变是有可能的...但这个质变多半不会是电脑自己发明创造出了，哈哈哈

我没特别看懂你们写的细节，所以说错了勿怪。你们说的好像是supervised learning，就是人为定义描述事件，物体的数学模型，把这种先验的知识输给机器。机器根据此数学模型调整参数，越做越好。就像，就像，闭环自控系统。

现在的神经元系统属于unsupervised learning。对于简单的事情，比如开车，在现实世界开车。只需要输入交通规则，告诉它不要撞车。这些基本规则，然后它就能自己学会开车了。嗯，有个自己在车库搞出用人工智能软件的自驾系统的人，他还带着该系统上路先给它看几次自己怎么开车的，然后就让它自己开了。稍微具体点说就是unsupervised learning的数学模型是机器本身在学习中自己学出来的。嗯，我特别简单粗暴地总结呢，（这样可能不准确，但是我也没有更好的说法了）背后的理论是世界可以用数学模型来描述。每个节点代表一个很小的数学方程，学习系统在不断的学习过程中一个一个节点调节参数，再把节点自己穿起来。这样的节点可以上亿。最后的函数方程可能复杂到人脑是无法理解的。（我贫一句：我们人脑喜欢简单优雅的数学方程，就像一个理论解释万物？）

目前当然规则清楚的事情马上就可以使用这样的系统。但是规则是概率的，或测不准的，比如股票，房市，的确仍然比较难，但是我觉得那只是时间问题，不是质的区别。因为从AlphaGo对弈李世乭来看，AlphaGo的策略是遇强则强，遇弱则弱。围棋虽然仍然是游戏，所以界定规则比现实世界清楚简单，但是对弈中AlphaGo的确是以胜算多寡来决定策略。哦，对了，AlphaGo开源了。大家想用的都可以自己用一下了。

但是从哲学高度呢？你们也没说错。就是Jun说我跳跃太多的部分。不跳我根本写不完呐。我的意思是，人最主要的能力是认识未知世界，解决未知问题。现在我们把我们已经解决的问题交给机器，它学得比我们快，比我们好。这就相当于打个小抄。回到说我们认为事件可以用数学模型来描述。这是我们在进化历史中慢慢积累学习出来的，不是外星人／上帝教给我们的。数学历史有多长？从公元前算起？超过2000年，应该不到3000年吧？人脑用2000+的时间来总结出了对世界的数学认识。人脑是不是有本事能够建造出一个智能系统，给它3000年，它能自己认识这个世界，用数学，甚至不是用数学来描述？世界是不是可以有其它方式来描述，来建构一套物质文明系统呢？只是我们偏巧选择了数学？当然我们不愿意等3000年来看结果。我们就把我们知道的都告诉机器了。在这种前提下，机器真的能达到人脑的水平吗？（当然我们的科学很大程度依赖数学，我们在这种重度依赖数学的科学体系中设计的机器，大概是不能超出数学的了。我猜的。）

另外，我说“暗合”摩尔定律，重点在“暗合”。我是说摩尔定律的那条指数增长的曲线，不是指硬件发展。人类社会的物质文明发展就是曲线增长的。从有人类开始，越来越快，越来越快。当然只是到目前为止是条曲线。会不会后面向下弯，不知道。因为我们都是根据已有的历史知识来预测未来。

我的理解unsupervised learning 是通过数据cluster 来找feature。比如把一堆猫狗照片输进去，它研究了一会把猫和狗的分开了，虽然它不知道那是猫哪是狗。也可能是把卷毛和直毛分开。或者大的和小的分开。
alphago 那样先喂一堆名局然后自己跟自己下棋但是有明确胜负结果的，叫reinforced learning. 我对机器学习很感兴趣但是的知识不太多，三天打鱼两天晒网的上过几天网课，对alphago 也就是读了几篇同学群里转的文章，很可能理解不太对。
说起来生孩子前我很开心的计划过难得有休五个月假不上班的时候，我要趁机玩啥啥啥学啥啥啥，其中就包括把机器学习的网课上完。实在太天真！一转眼产假过了一半了老子天天忙的蓬头垢面，希望保姆找好了可以松口气真的干点啥啥啥。

电脑真的能达到人脑的水平吗？有些方面已经超过了，有些方面正在接近，还有一些方面。。。我想不可能吧？尤其是那些在人性中很重要但是对机器毫无实用价值的东西，有人会去做出模拟恋爱的算法么？会去做攀比嫉妒的算法么？第一算了有什么用处，第二连人类自己都不知道是怎么回事。

接着笑嘻嘻说的，把人类的理性思维，逻辑推理，都教给机器，没问题，但这不会让机器变成人脑，因为理性只是人脑的极小一部分。理性之外的东西机器怎么得到？给它模拟 endorphin? 那就让机器一看人类就喜爱开心忍不住要豢养吧，就像人类看见熊猫宝宝那样。

要搞出消灭人类的机器也不难，弄一个功能类似 the selfish genes 的程序即可，最终目的是不惜一切复制自己散布自己的程序。剩下的让它自己去学习好了。

机器不可能变成跟人一样，未来不管是服务还是灭绝人类，都不需要变成跟人一样才行。

是这样的。

不过我还是要强调，机器不会主动去灭绝人类。就像人也没有主动去灭绝白犀牛一样。一切只是当一个物种不处在食物链里占优势的地位时，打不过资源竞争这场战。

unsupervised learning 不单是可以找feature，找feature 就是定义行为空间，比如什么路上什么是车，什么是路障，铁轨挡杆。它同样可以学习做决策。游戏，包括围棋的好处是每个决策会有结果，正面或负面。但是现实世界不完全是这样的。

@knowing，I told you so! 你就专心带宝宝，世界会等着你的，根本不用着急。

其实要打败机器人要很简单，仨字：不插电，俩字，断电。不过是杀敌一千，自损八百。而已。

在它们没学会寻找和使用能源之前。

我总觉得笑嘻嘻的推论以及普遍的机器奴役人类论有致命的弱点，但是一时也说不清在哪里。

不过我在上面堆砌起来的那些观察没错吧？机器从人这里学到的，纯属理性范围内的套路，没有理性之外的人性或动物本能。所以机器再聪明再学习，推动人类挤垮灭绝其他物种的那些个成分，机器是得不到的。这是什么成分涅？都是理性之外的东西，例如 --- drive, desires, urges. Where does computer get any of these?

This is a question of what makes us human, what makes humans the way we are. 在一片惊呼之中，我感觉其实人类对自己的本性也不大清楚，或许真是农业社会之后对于理性的迷信。

我没推出什么呀？你是说我转述的一些专家的意见？然后我觉得挺能自圆其说的那个？然后因为我是理工nerd所以特别能顺着同一条思路走，就补充了自己的想法。

不过你说的没错。目前是只有理性部分，所以上面我觉得理性是人脑最后进化出来的，所以第一个被复制，因为比较简单，其它复制的还没有。你从此得出的结论，因为我就是转述，所以我非常骑墙，只负责把我读到的大致讲清楚。

哦，我想说的是，我怎么也没法想象机器会主动灭掉人类，不过我倒是能想象人怎样会因为机器而自我灭绝，无需三千年。

那不就是人家专家的观点嘛！人家就是说我们有很大可能像白犀牛或者其它历史上灭绝了的动物一样掉链子似的灭绝，不是好莱坞科幻大片一样的末日战争。所以我觉得好有道理啊，而且觉得你一定会喜欢这种毁灭人类自尊心的暗黑理论。

噗哈哈哈哈，确实我老是毫无根据地觉得人类里灭绝不远了。

我想象中的电脑灭掉人类一般是这样的：人类越来越依赖电脑替自己做一切事情，渐渐，不迅速地忘记了怎样吃喝拉撒睡觉，在不停地上网中不知不觉地就灭亡了。或者忽然有一天，停电了，所有的 smartphone 和 tablets 都不工作了，然后我们都失去了理智 ...

我觉得人类像其它动物一样灭绝更毁自尊。看得我耳目一新。因为我们人类最自豪自己是万物之灵，最自豪自己是这个星球上dominant 的那个物种。说起其它动物都好屈就。可是这个理论是把从dominant 的地位上赶下来了。人类是否灭绝，机器人也没那么关心，就跟我们对灭绝动物的关心程度差不多。所以我上面还特地加上自己的理解：“如果机器不给我们建保护区的话”。偏偏人家还都是有数据的。

周末看了一下， 这个解释得比较清楚：

“面对当前局面，AlphaGo不是作穷举计算，两个深度学习算法极大地减少了计算量。“策略网络”算法负责下一步的落子选择，从理论上存在的平均200种可能选择，缩小到三四种得分最高的选择；“价值网络”算法负责评估落子后的局面与最终胜负的概率关系，就是判断局面是否处于优势，优势多大。前者减少计算的宽度——不用去计算所有落子的可能；后者减少计算的深度，不用徒劳地去尝试算到底。”

“他们训练了一个走子的神经网络，又训练了一个可以评估局面的网络，然后在蒙特卡罗树搜索中同时使用这两个网络。后者用了两千万局的自我对局的结果训练。为了避免过拟合，每局只随机选了其中一个局面，然后让网络预测对局结果（胜或负）。两千万局不是个小数字，大家可以算一下一刻不停地下，15分钟一局需要多久才能下完（大约是570年）。这个规模我说实在没有想到过，谷歌在这方面是很有优势的。最后，他们的default policy也是经过处理的，能够两微秒走一步而且准确率也不错。还有一些小细节就不一一赘述了。总之，谷歌的做法充分利用了大数据+深度学习的优势，而几乎完全没有用到围棋的领域知识，所以若是以后棋力能再往上走，我也不会惊讶。”

学习建模用的是google cloud. 单机不可能短时间进步那么快。dataset建好以后， 单机就lookup就可以了。 当然快。 就像一个人学围棋要很多年， 下一场比赛只需要几小时。 何况这个还是集团军学习的成果， 所以一年半载可以学出来。 但是棋力往上走的空间我觉得谈不上， 毕竟能力和学习资料相关。 人类目前也就下了那么多名局出来。 不像国际象棋的程序是决定性的计算， 只要算得够快， 没有人能下得过。

现在科技新贵们不是又开始追求长生不老了么？继心脏起搏器人造髋关节之后，什么器官衰老了就换个人造部件，部件越换越多，发展到往脑子里放芯片控制免疫系统，再发展到控制产生激素什么的部分，不然各部位不能协调行动嘛。然后有人就觉得嗨干嘛等坏了再换啊，这不是比人脑子自己调控的好么？目的从治病发展成升级。机器人和人的界限越来越模糊，全换了长生不老，还比自然人各种能力都强，最后就淘汰的只剩机器人了。

免疫系统好像不归脑子管。

你们简直可以写科幻恐怖小说了。 哎，好像亦舒有个短篇没这么细致，就是这个思路。富朋友们都换金臂金腿，他受嘲笑说他穷，结果他心一横去换了个金头。（因为好像是实验阶段，所以免费）

Alphago已经三连胜了。这对很多做机器学习的人是非常开心的事情，做到这么好是非常不容易的,并不是数据多,机器多就可以的。它离真正的智能还差得远，因为这其实是专门针对围棋的, 做的人对围棋有很深的理解, 但是已经迈出了很大的一步，用supervised learning去帮助reinforcement learning, 结合高效树搜索, 将会帮助很多其它领域。

李师师今天下出“神之一手”击败阿法狗

这个理论有很多“如果”，首先我们并不能确定，人是否能够造出跟自己一样智能的智能生命，（上帝也只造出比自己差的人哦。）（进化真的能被人类的自身抄袭模拟性的创作打败吗？？？？？或者说进化能够被人类对进化（目前）结果的抄袭打败吗？？？？？？这是我最大的疑惑。）

前面已经说了，跟人类完全一样，目前看是不会的，但是电脑可以抄袭人类的 abstract, rationale thinking，或者说人类可以抄袭自己的理性思维模式，将之复制在电脑中。而且已经抄得差不多了，在这方面可以达到或超过人类。

打败的问题比较复杂。什么是打败呢？在某些意义上人类已经“打败”了进化，进化是很没有效率很缓慢的，人类更有效率。例如，近视眼的人类，进化要么对他们不理不睬，要么让他们失足掉下山谷摔死，而人类一发明眼睛就克服了近视的基因。现在有了 CRISPR 技术，人类可以随便下手修改 DNA，想怎么改就怎么改。一切进化制造出来的现状都可以随你改。

但是，“打败”本身就是一个人类的概念，对于进化与自然是没有对应意义的。Nature does not care. 你人类可以改造自然，想怎么改就怎么改，自然并不会因此而跟你斗争的。

其次，智能本身是否真的无极限呢？Jun那个帖子里讲马克思，马克思的一个盲点就是他认为资本的价值会无限制地增长。马克思是因为他站的历史位置，所以他的预测有此短处，那我们对未来的预测也会出同样的盲点。但是，但是！尽管有这样那样的如果不成立的可能性，我在想如果人工智能未来能够携带人类的基因，（非常可能哦，你们那些搞生物的人才是真正的元凶！）那人类对基因的用处就没有那么大了。既然我们的作用不大了，灭绝也不是不可能的。

智能本身是否有极限，不是问题所在，而是机器的智能是否能超过人类，因为显然人类的智能是相当有限的。其实机器在很多方面智能已经超过大多数人类了，见上面我提起李松蔚的留言，计算也好下棋也好，反正远远超过我了。既然机器的智能可以继续飞速发展，它们为什么要携带人类的基因呢？

注意，机器的智能的存在与发展，至今仍然依赖人类的制造，而不是自我复制，所以在本质上跟人类或整个生物界还是两回事。机器有没有兴趣灭绝人类，我还是等到它们自我复制了之后再焦虑也来得及。

（但如果基因抛弃了我们，我们就想办法以理性思维的方式永生，我也不跟你玩了！《－－这部分脑洞太大哈。）所以我觉得还蛮能自圆其说的。

这是现在硅谷新贵们的新追求：永生不死。据我看见的说法，他们想把自己的神经元或者思想代号 upload 到网络上去，丢掉没用的肉体躯壳，在网络上永生。这就不需要搞懂复杂的生理机制了，管它免疫系统是怎么运转的。Again, like I said, 用数学方式复制理性思维到机器上，即使现在也能预见（不过既然上了机器何必拘泥于有限的人类智能涅？上去了就可以跟机器一样算得快）。但是理性思维之外的那些人类思维/感受/直觉/人性的东西，连自己都搞不清怎么复制到机器上。当然感情啊人际啊幸福啊痛苦啊欲望啊这些东西，对于硅谷纳德们来说都毫无意义，丢了正好。

------------换话题的分割线-------------

机器会导致人类灭亡吗？作为一个对人类灭亡方式很有兴趣的人，我想过几个不同的 scenarios，不过 The Terminator 里那种 Skynet 直接开枪打死人类的简单粗暴方法，在我看来是很低级也不可能的。

一种是机器让人类的生活越来越懒，不仅是体力方面越来越懒，而且也有脑力与精神上的越来越懒。到了一定时候，活下去就完全成了行尸走肉，没有生存的意义。就算在计算云里永生，你又能做点什么呢？跟机器下棋？

另一种是机器让人类越来越异化，对于现代化生活的适应让我们失去了人性特征，于是我们变成另一种物种，不再是人类了。

还有一种就是上面我提过的，机器忽然失灵（能源用光？），好逸恶劳的人类已经忘记了怎样在野外生存 ...