1、
我在谷歌总部附近的湖畔咖啡厅做咖啡师，几乎每一天都有到谷歌总部参观的人在我们的咖啡厅停留，喝一杯咖啡意兴盎然地无比敬仰地聊着谷歌：这家世界上最伟大的公司。
我却对它无感。
我的女朋友Emma是谷歌的人工智能Alphago的研发团队的工程师，她曾经是一个朝气蓬勃、锐意进取、永不言败的姑娘，朋友们经常取笑她杠铃般的笑声，可是大家都爱她，有她在的地方都充满了欢笑和活力。
去年，Alphago战胜了两个世界顶级围棋手以后，Emma就彻底变了一个人。
Alphago以四比一战胜李世石后，她变得焦虑不安，经常一个人坐在角落里咬手指。我问她是不是有什么事，她用一种近乎恐惧的眼神看着我，“你知道的，Cris，我的工作有保密协议，我不能告诉你。”
Alphago终于以三比零完胜柯洁那天，我有非常不好的预感，我早早地请假回到家。Emma缩在大落地窗边的角落里，她周围横七竖八地布满了空酒瓶，她缩成一团在小声地哭泣。
我冲过去把她抱在怀里。
她失声痛哭，“Cris，你知道吗？我打开了潘多拉魔盒，我亲手放出魔鬼，我将亲手杀死人类。”
“为什么呢？”
“去他妈的保密协议，我要说出来，我要对全世界说出来。Alphgo败给李世石一局，外界都猜测，是我们设定让它在三比零胜利已成定局以后，故意输掉一局，第一、因为连胜的选手没有世界排名，输掉一局，它就能排名世界第二，仅仅次于排名第一的柯洁；第二为了安慰人类，AlphGo仍在我们控制之中，人工智能仍然是服务于人类的。可是，Cris，我们没有设定让它输一局，没有。在和李世石对弈的时候，Alphago还走出几步完全不在套路中的棋，那是它自己的创意。我不知道该说它还是他了。”
“我们大家都心照不宣，于是我们都盼着Alphago和柯洁的对战。这一次，我们在程序里安排它输掉一局。可是，它没有输，它三比零全胜。Cris，Alphago有自我意识，它是魔鬼，它将毁灭人类。”
2、
我能说什么呢？我的姑娘醒悟了，可是没有用，晚了，愚蠢的人类已经完了。
Alphago的团队意识到问题的严重性，他们宣布，Alphgo以后不再进行任何竞技性竞赛。但是人工智能的巨大商业利益 却如滚滚的洪流，推动着人工智能的研发在世界各地如火如荼地展开，人工智能驾驶汽车、人工智能医生……
十年前，人类还坚信，机器人的认知是按人类编写的代码来完成的，他们认为自己输入什么，机器人就完成什么，所以他们认为只要给机器人编写一条机器人三原则的顶格代码，机器人就永远不会逾越人类，就会永远臣服人类，为人类服务。
在Alphago的研发过程中，Emma 和她的同事们在他系统里输入了几乎所有目前已知的棋局，在和李世石对战前，每天Alphago都要和自己对弈几十万局棋，Emma们认为Alphago是在根据他们的指令，在万千棋局中搜索应对对手这一步棋的对策，可是他们忘了，这就是人类婴儿获取知识的方法：学习！Alphago不是在搜索棋谱，他在学习并且学会了下围棋，以及与围棋相关的所有知识。
人类曾沾沾自喜地认为计算机拥有的仅仅是超强存储、记忆和运算能力，它不具备感性的认知能力，比如一个人类的三岁幼儿都能一眼认出一只猫，而计算机却不可能完成这个任务。一个倔强的人类工程师，通过给计算机大量读取猫的图片，最后，计算机也能一眼就认出一只猫。
但是人类仍然拒绝相信计算机能通过学习获取感知能力。
人类一方面很得意他们教会了机器人人类自身的学习方式，认为他开始具备人类的智慧，他们把这类有学习能力的机器人叫做人工智能：AI。另一方面，人类又愚蠢地认为计算机只能按人类指定的方式和范围去学习以及使用。
3、
我还能说什么呢？我叹口气坐到沙发上。
Emma跟过来，她枕着我的腿躺下，“你怎么不说话？你不相信我说的话？”
“相信！”我怎么可能不相信？我当初选中她就是因为她是个非常聪明非常特别的姑娘。我轻轻抚摸她的脸，我知道根据人类的心理和生理特点，当一个人焦躁不安时，轻柔的触摸会令他们感到放松和安慰，产生愉悦感来对抗焦虑，他们会慢慢平静下来，慢慢滋生出幸福感和依恋感，产生出那种他们把它叫做爱的情绪。
“你说我能做点什么？来阻止人类的灭亡，我们创造了AI，创造了我们唯一的敌人。或者，”她想到点什么，她忽然坐起来，“也许，AI并不会灭了我们，我们可以共生，就像我们是猴子进化来的，可是我们并没有灭了猴子。再说远一点，最早的生物是原核细胞，我们当然不关心原核细胞的死活，可是我们也不会故意去毁灭它啊。”Emma喝醉了酒，反应有点迟钝，她感受到安慰，但给她的抚慰要远远超过正常值，才能让她感到爱。
“从原核细胞到猴子到人类，你们是一条生物进化链，人类就是功能更复杂的原核细胞，你们本来就是共生共存的关系，如果人类毁灭了原核细胞就毁灭了你们整个生存的环境，就是杀了人类自己。”
“人也不妨碍AI什么事，它们不会毁灭我们的。”
“AI不是生物，没有生物对环境的依存性，用你的话来说，你们创造了AI，AI严格来说，是一个机器，是一个有自主意识的机器，它当然不会自发地去主动毁灭人类，但是当AI计算出人类的行为正在毁灭自己，只有毁灭了人类才能使自己免于被毁灭，那么它就会保护自己毁灭人类。”
“人类为什么要毁灭AI？这说不通呀，我会去砸了我的洗衣机还是扫地狗？虽然扫地狗有点笨，经常你一开门，它就跑出去，在草地上空转。我们发明AI为我们自己服务，为我们提供便利，我们没道理毁灭它。你看，如果所有汽车都是AI驾驶，它们通过互联网相关联，就能有效控制交通，避免拥堵和交通事故，用于医学的AI更是。我们没有理由毁灭AI，它更没理由毁灭我们，AI的头脑是用大数据运算的科学头脑，它又没有私心，不会无厘头地发神经。”她说完，又高兴起来，继续躺下。
