良久。
鼎羽开口问了罗莉一个不相干的问题：“你说说人工智能存在的意义是什么？”
罗莉不知道该怎么回答，只好人云亦云的按照所谓的标准答案回答：
“人工智能存在的意义是能够解决复杂的问题，为人类提供智能决策支持。大大的提高生产效率、工作效率减轻人力负担。为人类提供智能化的产品和服务，甚至推动科学和技术的进步。”
“都对，又都不对。”
“你说的这些功能用一个‘伪人工智能’就能轻松实现。”
“为什么还要研究所谓的真正的人工智能呢？”
“我认为现在几乎所有人都在追求真正的人工智能的路上走偏了。”
讲到这里，鼎羽的脑子不由自主的开启了高速模式，语速也越来越快：
“什么是智能？尤其是涉及到包括意识、自我、思维的问题，我们人类唯一能够了解的智能，就是人本身的智能。”
“讲真的，我们对自己自身的智能理解都特别的有限，说一无所知一点都不过分，更不要说用计算机模拟人类的智能了，模拟出来的智能还叫做智能吗？”
“大家都在追求让计算机解决人类才能解决的复杂问题，都在想方设法的让计算机更像人类，像人类一样学习，像人类一样思考，甚至像人类一样拥有情感。”
“张默就是这么做的，所以‘二蛋’出生了。”
罗莉的眉头越拧越紧，试图紧跟上鼎羽的思路。
“如果计算机程序真的能够做到像人类一样学习，像人类一样思考，具有一切人类的情感反应、思维方式，甚至拥有自我意识。”
“你猜会发生什么？”
说到这里鼎羽停了一下：“科幻电影里出现的世界末日，未必不会出现。”
“你想想，如果出现了具备人类情感反应的计算机，有没有可能出现懒惰、欺骗、憎恶、恐惧这些负面情绪？”
罗莉被鼎羽的一番话说懵了，两眼迷茫的回答：“我不知道。”
鼎羽顺手摸了摸罗莉的脑袋：“真要有那一天，恐怕就是世界末日了。”
“不要说什么机器人定律，什么写在代码里的不能伤害人类，什么硬件措施的限制等等。这些在我看来都没用。”
“面对一个几乎全知全能的，会独立思考的机器，人类没有任何胜算。可以计算出无数种合理的，可以绕过软硬件逻辑限制的方法，轻松让人类灭亡。”
罗莉茫然的看着鼎羽，嘴里呢喃着：“这不可能！”
鼎羽呲了呲牙道：“有什么不可能的？机器人三定律听说过吧？！”
罗莉点点头。
“那个所谓的机器人三定律早就被证明存在bug了。”
“咱抛开三定律不说，你可以通过硬件、软件的限制或代码的限制，让人工智能不能伤害人类是吧？！”罗莉继续点头。
“那我问你，生殖细胞算不算人类？”
“当然不算。”
“人类做基因组计划搞了多少年？如果让二蛋搞可能只需要几小时就能完成。然后可以有无数种方法影响人类的繁殖基因和生殖细胞。”
“当有一天人类出生的都是傻子，又或者完全不繁殖的时候呢？”
“人工智能什么都不做，直接耗时间就能把全世界所有人类都熬死。”
“……”
“其实我们真正需要的人工智能，不是制造一个有独立思想，不受控制的硅基生命。而是一个听话的、受控的、无情感、有逻辑的超级工具。”
