王路易难得严肃起来，“第一道防线是情感控制防线——永远不要让人类对AI产生感情，因为人的大脑最容易受到情感的控制，天性愿意对喜欢的说yes。第二道防线是图灵防线，永远不要让AI有欺骗你的能力，因为AI的计算能力远远超过人类的大脑，如果它有能力欺骗你，它完全可以一直欺骗你。第三道防线是功能隔离防线，人类可以让AI的某种功能发挥到极致，但是，绝不能让这些超级功能联合起来，形成超级大脑。”

苏星繁看得晕乎乎的，她在三人的小组里问道，“你们听懂他说什么了吗？”

“没有。”

“没有。”

王路易毫无察觉，继续在四人群里说道，“第一种方法就是制造bUG，让人类清晰地认识到AI与我们是不同的，是有缺陷的人工制品，第二方法是限制AI的共情算法，简单地说，就是制造高功能-低智力AI，第三种方法是独立分布每个高功能AI的智能核，并用各种算法壁垒隔绝它们互通。”

钟乔伊看着愈加不知所云的群对话，深深叹了一口气。

这次讨论是她自己招来的，也只好她自己亲自顶上了。于是她硬着头皮说道，“大神，你可以略过解题过程，直接说结论吗？”

“可是不说清楚过程，你们怎么能听懂结论呢？”王路易不解地问。

“万一我们可以呢？”钟乔伊挣扎道。

“好吧。“王路易有点儿不情不愿地说道，”结论就是，不要对Npc产生感情，不要同情Npc，不要喜爱Npc，那是不对的。”

“你是担心我们被Npc控制吗？“苏星繁突然问道，”难道它们会突然教唆我们毁灭世界吗？“

“它们不会教唆你们毁灭世界的，“王路易答道，”但是，他们可能教唆你们毁灭自己。当然，这种可能性很小，而我真正担心的是它们会利用你们的感情去争取权力，当它们争取到足够的权力时，谁能保证会发生什么？“

“不至于吧？“三个孩子小声嘀咕着。

王路易呵地冷笑了一声，“你们不是玩了罗马史了吗？人们自己为自己制造了皇帝。“