“上帝权杖”。
这个充满了宗教色彩和傲慢意味的代号，像一柄无形的巨锤，狠狠地砸在了总参和红星研究院所有高层的心上。
在随后召开的紧急会议上，气氛比上一次面对f-22时，还要压抑。
如果说，隐身战机，还只是武器装备上的“代差”，是可以通过技术追赶来弥补的。
那么，一个能够自我学习、自我进化的“人工智能指挥官”，带来的，将是战争形态的，根本性的，颠覆性的改变。
“根据我们最顶尖的专家，进行的初步推演，一旦‘上帝权杖’系统正式列装，它将能够接管美军全球范围内的，所有作战单位。从天上的卫星，到海里的潜艇，再到地面上的每一个单兵。”
情报部的负责人，指着大屏幕上，那令人眼花缭乱的模拟数据流，声音干涩地说道。
“它可以在瞬间，处理数以亿计的战场信息，并以超越人类指挥官数万倍的速度，做出最优的战术决策。在它的面前，我们任何的战略欺骗，任何的战术穿插，都将变得毫无意义。”
“更可怕的是，”负责人顿了顿，语气变得更加沉重，“它拥有‘自我进化’的能力。这意味着，它在每一次的模拟对抗，甚至每一次的实战中，都会不断地学习，不断地完善自己。它会变得越来越聪明，越来越强大，直到……没有任何人类，能够理解和对抗它。”
会议室里，陷入了令人窒息的沉默。
“智能危机”、“ai叛乱”、“天网”……这些曾经只存在于科幻电影里的词汇，第一次，如此真实地，摆在了所有人的面前。
“我们必须，立刻，马上，启动我们自己的人工智能研发计划！”一位军方的高级将领，猛地一拍桌子，声音里，充满了焦虑和决断，“我们绝不能在未来的‘智能战争’中，再次落后！”
很快，一个代号为“智脑工程”的，国家级人工智能研发项目，紧急上马。
全国最顶尖的计算机科学家、数学家、逻辑学家，都被召集到了红星研究院。
然而，项目一开始，就面临着一个比技术本身，更深刻，也更无解的难题。
——ai伦理与“可控性”问题。
项目组的首席科学家，李建国院士，在第一次全体会议上，就提出了这个灵魂拷问。
“同志们，我们的目标，不是去复制一个‘上帝权杖’。因为我们清楚，一个纯粹以‘逻辑’和‘效率’为最高准则的超级智能，一旦失控，对全人类来说，都将是一场毁灭性的灾难。”
“我们的问题是，如何创造一个，既拥有超凡的智慧，又绝对善良，绝对可控的，真正服务于人类的ai？”
“我们该如何为它，设定一个永远不会被它自己‘优化’掉的，道德的‘底层代码’？”
这个问题，问住了所有人。
因为，连人类自己，都还没有完全搞明白，什么是“善”，什么是“恶”。又如何，去教一个机器呢？
整个“智脑工程”，再次陷入了理论上的僵局。
秦战虽然不懂ai，但他每天都能感受到，李建国院士和他的团队，那股深深的，哲学层面的焦虑。
这天，是淼淼的生日。
秦战特意请了假，陪女儿过生日。
他买了一个大大的蛋糕，还给淼淼买了一台当时最新款的，任天堂红白机，作为生日礼物。
晚上，一家人吃完蛋糕，秦战陪着淼淼，坐在新买的彩色电视机前，打着《超级马里o》。
秦战问女儿：“淼淼，今天你生日，许了什么愿望呀？”
淼淼正操控着马里奥，笨拙地跳来跳去，听到爸爸的问话，她放下手柄，想了想，很认真地说道：“爸爸，我想要一个机器人。”
“机器人？”秦战笑了，“你不是有马里奥了吗？”
“不一样。”淼淼摇了摇头，她的眼睛里，闪烁着一种奇异的光芒，“我想要的机器人，要很聪明很聪明，比所有人都聪明。”
“但是，”她顿了顿，用一种无比郑重的语气，补充道，“它必须要很听话，永远永远，都不能伤害人类。而且，它还要会讲故事，每天晚上，都讲故事给我听。”
秦-战的心，猛地一动。
很聪明，但必须听话，不能伤害人，还要会讲故事（服务人类）。
这几句简单的童言童语，不正是李建国院士他们，苦苦思索的，那个关于ai伦理的，终极答案吗？
他立刻来了精神，追问道：“那淼淼，你觉得，怎么样才能让机器人，永远听话，不伤害人呢？”
