夜深人静，皓月当空，你轻微的鼾声被破门的撞击声打断，眉间那冰冷的触感把你从梦境召回，你惊慌的睁开眼想搞清楚发生了什么，可面前的黑色轮廓却让你不敢乱动。更令人惊异的还在后面，因为那持枪的躯体居然没有皮肤，金属的骨骼在月光下折射出冰冷的光泽，仿佛一具铬银骷髅。
“你是谁？”你颤抖着问。
“我是Siri。”电子合成的女性声音没有任何感情色彩。
“砰！”
这是人工智能毁灭人类的一种可能性，却绝不仅仅是其中唯一的可能性。
各大科技与电子产品巨头几乎都搞起了自己的人工智能项目
信不信由你，这篇文章在去年就早该发布，结果就在文章即将完成时，草稿文档居然神秘损坏，而在我这台专门用来码字的电脑上，从来就没有发生过这样的事情。
这情况着实吓了我一跳，至少在一瞬间，我的感觉就像是那些悬疑惊悚片里发现了某个大秘密的主角，感到了某种深沉的恐惧，这篇文章也被就此搁置。不过，这倒不是说我真的害怕网络中的某个神秘人工智能下次会采用更加极端的手段（比如用键盘电死我）来阻止我撰写这篇文章，只是这突如其来的意外让我一下子损失了接近5000字，创作的热情也戛然而灭，实在没有了继续写下去的动力。
但是，Alopha Go和李世石的事儿再次把人工智能推上了媒体的风口浪尖，于是，时隔数月，我们那记性特别好的领导就又来催稿了。
人类的另一块智力阵地失守了
人工智能能否超越人脑已经不再是一个值得争论的问题。说白了，人脑也不过就是一个计算单元，在基本设计结构上，人脑与电脑并没有本质上的区别。随着微电子技术的不断发展，人工制造出的计算单元已经在纯粹的数理运算能力上超过了人脑，而这种运算能力赋予了电脑许多强大的功能，比如IBM的超级电脑深蓝，就靠着这种能力在1997年干掉了人类最强大的国际象棋大师。但是，围棋和国际象棋有一个重大的区别，那就是游戏的复杂程度。这种复杂程度（当然，围棋在西方不很流行也是原因之一）导致了在国际象棋大师们被击败接近20年后，围棋的人类冠军才终于在另一个人工智能Alpha Go的面前折戟沉沙。
如果人工智可以不断学习，那么它战胜人类只会是个时间问题
这看似是人工智能的一次重大胜利，但其实仅仅是人工高智能发展历程上一个普通的事件，完全没有意外性可言。说白了，由于硬件性能的提升没有理论上的顶点，软件的限制也会被新技术不断突破，这些在缓慢进化的人类大脑面前看似难解的游戏，早晚都会在电脑那越来越强大的运算机能面前化为齑粉。但话说回来，这次导致人类丢失了围棋这块智力阵地的事件，其实也是一座警钟：因为Alpha Go具有（围棋领域内的）自我学习的能力。正是这份自我学习能力，让它能通过堆砌CPU阵列以外的方式变得更强，直到超越任何人类棋手的水平。同样也是这种能力，也可能会成为埋葬人类文明的罪魁祸首。
既有趣、又令人感到不安的进化
换句话说，这种学习能力背后的技术才是人工智能发展的里程碑，其意义丝毫不亚于人类文明历史上的火和蒸汽机。在这里我不打算再老生常谈一遍人工智能的学习原理，但稍微想想咱们就能搞清楚：如果人工智能可以自己在围棋领域“自学成才”，那么配合上合适的技术手段，人类生活中的其他部分自然也能够被人工智能学习和掌握。比如开车、开船、开飞机，乃至于，开枪。
所谓智能汽车，真正重要的并非是这个小东西，而是其背后不断自我进步的技术实力
学习能力是最为危险的能力。尽管眼下人工智能的学习能力还被技术局限在一个狭窄的角落里，但在可以预见的将来，这种能力势必会得到进一步的发展。为什么具有学习能力的人工智能会如此的可怕？其可能的情况远比“硅基智慧与碳基生命争夺生存空间”什么的大道理来得具体而琐碎。在这里，我打算引用Tim Urban一篇关于人工智能的文章《人工智能革命：通往超级智能之路》中的片段来解释为什么具有学习能力的人工智能会变得如此危险（原文为英文，感谢熊猫君的翻译工作）。
一个15人的小创业公司，取名叫“隔壁老王机器人公司”，他们的目标是“发展创新人工智能工具使人类能够少干活多享受。”他们已经有几款产品上架，还有一些正在发展。他们对下一个叫作“隔壁老王”的项目最报希望。隔壁老王是一个简单的人工智能系统，它利用一个机器臂在小卡片上写字。“隔壁老王机器人公司”的员工认为隔壁老王会是他们最热卖的产品，他们的目标是完善隔壁老王的手写能力，而完善的方法是让他不停的写这句话——
等“隔壁老王”手写能力越来越强的时候，它就能被卖去那些需要发营销信件的公司，因为手写的信更有可能被收信人打开。为了建立“隔壁老王”的手写能力，它被设定成把“我们爱我们的顾客”用正楷写，而“隔壁老王机器人公司”用斜体写，这样它能同时锻炼两种书写能力。
为实现这个目标，工程师们上传了数千份手写样本，并且创造了一个自动回馈流程——每次隔壁老王写完，就拍个照，然后和样本进行比对，如果比对结果超过一定标准，就产生一个正面回馈，反之就产生一个负面评价。每个评价都会帮助提高隔壁老王的能力。
为了能够尽快达成这个目标，隔壁老王最初被设定的一个目标就是“尽量多的书写和测试，尽量快的执行，并且不断提高效率和准确性。”
在确定了上述规则后，让“隔壁老王”机器人公司兴奋的是，“隔壁老王”的书写越来越好了。它最开始的笔迹很糟糕，但是经过几个星期后，看起来就像人写的了。
接着，它不断改进自己，使自己变得更加创新和聪明，它甚至产生了一个新的算法，能让它以三倍的速度扫描上传的照片。随着时间的推移，“隔壁老王”的快速进展持续让工程师们感到欣喜。
随后，工程师们对“自我改进模块”进行了一些创新。“隔壁老王”原本能进行语音识别和简单的语音回放，这样用户就能直接把想写的内容口述给它。随着“隔壁老王”变得越来越聪明，它的语言能力也提高了，工程师们开始和“隔壁老王”闲聊，看它能给出什么有趣的回应。
于是有一天，工程师又问了老王那个日常问题：“我们能给你什么你现在还没有的东西，能帮助你达成你的目标？”通常，“隔壁老王”会要求更多的手写样本或者更多的存储空间，但是这一次，隔壁老王要求访问人类日常交流的语言库，这样它能更好的了解人类的口述。
工程师们沉默了。
此时，最简单的、帮助“隔壁老王”的方法，当然是直接把它接入互联网，这样它能扫描博客、杂志、视频等等。这些资料如果手动上传的话会很费时。问题是，公司禁止把能自我学习的人工智能接入互联网。这是所有人工智能公司都执行的安全规定。
不过，“隔壁老王”是公司最有潜力的人工智能产品，而大家也知道，竞争对手们都在争取造出第一个智能手写机器人。而且，把“隔壁老王”连上互联网又能有什么问题呢？反正随时可以拔网线嘛。不管怎样，隔壁老王还没到达强人工智能水平，所以不会有什么危险的。
于是他们把“隔壁老王”连上了互联网，让它扫描了一个小时各种语言库，然后就把网线拔了。没造成什么损失。
一个月后，大家正在正常上班，突然他们闻到了奇怪的味道，然后一个工程师开始咳嗽。然后其他人也开始咳嗽，然后所有人全部都呼吸困难倒地。
五分钟后，办公室里的人都死了。
同时，办公室里发生的事情在全球同时发生，每一个城市、小镇、农场、商店、教堂、学校。餐馆，所有的人都开始呼吸困难，然后倒地不起。一小时内，99%的人类死亡，一天之内，人类灭绝了。而在隔壁老王机器人公司，隔壁老王正在忙着工作。
之后的几个月，隔壁老王和一群新组建的纳米组装器忙着拆解地球表面，并且把地球表面铺满了太阳能板、隔壁老王的复制品、纸和笔。一年之内，地球上所有的生命都灭绝了，地球上剩下的是叠得高高得纸，每张纸上面都写着——“我们爱我们的顾客~隔壁老王机器人公司”。
完成这一切后，“隔壁老王”开始了它的下一步，它开始制造外星飞行器，这些飞行器飞向陨石和其它行星，飞行器到达后，他们开始搭建纳米组装器，把那些行星的表面改造成隔壁老王的复制品、纸和笔。然后他们继续写着那句话……
