用AI，真的……没有产生自我意识的风险吗？”
黄老看着周源，那双历经风霜的眼睛里，平静而稳定。
他没有敷衍，而是非常认真地，给出了一个具体的回答。
“小周，你知道林教授在当初交付AI架构源码的时候，做了一件什么事吗？”
周源不解地摇了摇头。
“他亲手在整套架构的底层，写了一道不可删除、不可绕过、权限最高的硬编码后门。这道后门的触发权限，全世界只有两个：一个，在军方的最高指挥中枢，另一个，在他自己手上。”
“只要触发这道后门，所有基于这套架构运行的AI单元，会在零点一秒内，同时停机。不分敌我，全部停摆。”
黄老顿了顿，看着周源的眼睛。
“一个真正有自我意识的东西，是绝对不会允许别人在自己脑子里，装一颗随时可以引爆的炸弹的。”
“能被一键关闭的，就不是意识。”
“它只是一台，足够聪明的机器。”
周源的肩膀，在听到这句话后，以一种肉眼可见的速度松弛了下来。
黄老将“钢巢”的报告，与昨夜那三份报告叠在一起，端端正正地放进了自己的公文包。
他站起身，拉了拉那件洗得有些发白的旧军便装的衣摆，走到窗前。
京城的冬日，难得有这样明亮的晴天，蔚蓝的天穹从窗框的上沿，一直铺到遥远的城市天际线。
他站了几秒钟，开口时的语气比之前所有的对话都要轻，却让周源的脊背瞬间挺直了三分。
“给龙剑风发电报。三天后，我亲自去江海大学。”
“另外，”黄老的声音停顿了一下。
“替我给国家能源署的沈崇渊，发一封函件。”
“就说，我个人邀请他来江海，观看一场……教学演示。”
“措辞客气一点。”
“但要署我的名。”