“人工智能会摧毁人类吗？未来能当人类的老师吗？”

“人工智能这么厉害，我们给它断电好不好？”

在科幻作家郝景芳的新书《人之彼岸》发布会上，创新工场创始人兼CEO李开复，与十几位小朋友进行了一场有趣的对谈。期间200万名家长通过多家直播平台观看了整场对话，不少家长惊呼“开复老师原来这么幽默”。

以下是开复老师和“10后”小朋友们的对话记录，由WePlan童行计划整理。

小朋友ASK：人工智能会毁灭人类吗？

开复老师答：人工智能可以执行人的指令，举个例子，如果现在我的面前有一辆无人驾驶汽车，我可以告诉它我要去某地，开到目的地它就会停下来。但是如果我忘了告诉它，马路中间有人的时候要刹车，它就会伤到人——也就是说，如果人给出的要求不够清晰，车对人类就会有威胁。

所以这是因为机器不够聪明吗？如果人工智能伤害了人，有可能是因为背后的人没有把它教好，也有可能是因为黑客恶意地跑进去，所以我们开发人工智能还是要很小心。

其实，人工智能就是很多很可爱的小机器，我跟它说，你去下围棋，它就会去下围棋。它赢了，我就可以把它关掉了。

人工智能虽然很聪明，但它跟小朋友一样听话，你们觉得这样乖的人工智能会毁灭人类吗？

小朋友ASK：人工智能会不会让人类失去工作？

开复老师答：人工智能一般只会做一件事情，它会把这件事做得非常好，但是别的事它统统都不会。举个例子，你们家里面可能都有洗碗机，洗碗机比你洗碗洗得还好，但是洗碗机只能做这一件事情。

如果有小朋友问，哪怕人工智能只做好一件事情，会做这一件事情就会取代一种人，最终人类总会全部失去工作，是这样吗？

其实并没有，机器人还需要人教它如何做事情。我们的飞机、汽车也可以变成人工智能，因为它会学习，可以变得越来越好，但是它本身不会发明飞机、汽车。

机器人是没有创造性的，它只会把人发明的东西做到极致。

小朋友ASK：为什么机器人只能记一样东西，不能记两样东西?

开复老师答：假如我邀请你来我家，说，周三来我家吃晚饭好吗，你说开复老师我周四要考试，那你是答应我，还是拒绝我了？（小朋友：肯定是拒绝，因为他周三得复习，不能熬夜。）

小朋友都能想出来的，机器人就想不通，如果我问机器人你跟不跟我一起吃饭，他可以给我可以或者不可以的答案，但机器人最笨的地方是问不了为什么。

你要问机器人吃晚饭行还是不行，他可以给你答案，如果你说得委婉一点，它就蒙了。人的大脑，能够跨领域思维，机器人就不行。

小朋友ASK：为什么机器人是谁创造出来的，它就得听谁的话呢？

开复老师答：比如我是教这个机器人怎么走路的，如果它以后走路伤了人，我是要负责任的，所以它只能听我的话。

如果万一有坏人告诉它，你见到一个小朋友就要踢他（她）一下，这样是不是就很糟糕了？我不但要确定它能够听我的话，我还要确定它不能听别人讲不好的话。

谁创造的这个机器人，他就要负责任，一定不能让坏人去侵入机器人。

小朋友ASK：如果阿尔法狗停电了，它怎么跟李世石比赛呢？

开复老师答：有人说想要打败阿尔法狗，就让它断电。我们可以买一个技术叫做UPS（不间断电源），它像是一个很大的电池，只要UPS大电池有足够的电，能够撑三四个小时，就打不败它了。

当然，如果没有大电池，你给它断电了，阿尔法狗就算是认输了。

问答环节之外，李开复还围绕人工智能时代的教育，做了一个简短的分享。他认为，人工智能时代，最核心的是要学会问两个问题：“为什么”和“为什么不”。

李开复：人工智能时代，要学会“为什么”和“为什么不”

我认为在人工智能这个时代，教育是很大的挑战。我觉得教育最核心的其实就是要学会问两个问题：“为什么”和“为什么不”。

在人工智能领域的经历，让我不担心人工智能会毁灭人类

其实我从小就接触和学习电脑，我会教当年很大很笨的电脑下黑白棋，后来觉得不过瘾，就教它学会语音识别——识别1000个字。那时候就觉得，电脑技术离普及还很远。

工作以后，我先后在苹果、微软、谷歌三个公司都做过人工智能的研发工作。后来，我出来创办了创新工场，帮助很多创新公司研发了很多人工智能产品，比如无人驾驶的飞机。我们教机器人听懂人的语言、股票交易、贷款风险评估、人脸识别，研发自动驾驶的送货小车。

那现在这一代人工智能和以前有何区别呢？关于这个问题，我建议大家去看景芳的新书《人之彼岸》第三章到第八章，你会发现，其实人工智能就好比听话的小朋友，会按照大人的指示去做一件事情，而且做得非常好。所以，我们不用担心人工智能毁灭人类。

“爱”与“创造”是人类独有的、不会被人工智能替代的

人与人工智能是共存的，人工智能它只会优化，不会创造；它只能解决一个人给它定义的问题，它其实不会真的思考，也不会举一反三，也不会创造新的事物，也不会爱与沟通，所以我们觉得未来共存的情景，是人应该更多的去追求创造与爱，让这些成为人生活的目的。

本来今天人生活的目的就是被扭曲的，大部分的人工作的动力就是创造财富或受人尊重。造物者把我们带到这个世界上，真的就是重复这么一个枯燥的事情吗？还是说希望我们做一个真正有意思的事情。人工智能是点醒了我们，回到我们寻找生命有意义的事情上，而不是勤奋工作就是你生命的意义。

AI是工具，就好像别人用word，你还在写字，在起跑线上你就已经输了。所以我们不用去在起跑线上同AI竞争，我们要尽早接受、拥抱、学习这一工具。我们要往创造和爱的道路上走，与AI和平共处。

未来我们应该如何学习？

第一个建议是：多问老师“为什么是这样”，知道“为什么”才能举一反三。也要问“为什么不”，比如“为什么人工智能不会毁灭人类”的思考角度，会让我们对这个问题有更立体、思辨的思考。

第二个建议是：做自己最爱做的事情。未来抢你工作的除了人类，还有机器人，所以只有做自己最有兴趣的事情，才可能有竞争力。你会每天花很多时间去思考、尝试这件事情，让自己更有可能超越其他人，超越机器人。

郝景芳发起“童行”计划，做面向未来的儿童教育

《人之彼岸》是《北京折叠》的续篇。《北京折叠》写于2013年，在2016年获得了雨果奖，郝景芳也成为了第二位获得雨果奖的亚洲作家。

《人之彼岸》由两部分组成，前半部分是非科幻思考，是两篇关于人工智能的科普文章，分别探讨了人工智能目前的能力和缺陷，以及在人工智能时代，人类应该如何学习。后半部分是六篇中短篇科幻故事，从不同的视角描绘人工智能世界的未来图景。

当晚，郝景芳还发布了面向AI时代的共享教育项目“童行”计划，希望通过对“共享教育”的实验和探索，实现优质的教育内容惠普共享的目标。

小朋友们和李开复的对谈，就是“童行”计划的第一期。此外，“童行”计划还邀请了《三体》作者刘慈欣、北大知名经济学家何帆等人，他们将陆续与小朋友面对面，分享思想、智慧、知识和经验。