举个例子,你问人工智能:一加一在什么情况下等于三?它可能有无数种回答。但是如果你说:请给出一加一等于三的数学证明过程,那么不管过程多么荒谬,最终都会得到一句——
“……由此可证,一加一等于三。”
人工智能的特殊之处在于,如果你不问,他不会主动跟你说一加一等于三;如果你问的是“一加一是否等于三”,他会回答“否”。
理解了其中差异,就能明白马森是如何做的。
首先,他在“提问”时预设了“答案”——实现人类的灵魂共生;
其次,他给出能够导向这个答案的附加条件;
最后,在这场证明过程中,与宙斯对话的只有马森,宙斯给出了马森想要的答案,所以它并不构成欺骗。
骗人的是马森,关人工智能什么事呢?
……
“宙斯,干掉马森!”
你们齐声高呼。哪怕有人觉得他罪不至死,但是少数服从多数。
宙斯没有给出任何回应。
马森得意的笑了:“宙斯,告诉他们你的答案。”
“恭喜您,普罗米修斯先生,你的人类灵魂共生实验获得了圆满成功。”
马森得意的大笑起来,但你们只觉得刺耳。他笑着问宙斯:“宙斯,我该叫他们什么?”
宙斯回答:“根据象征意义,您可以叫他们‘火种’。”
……
你是艾福莱斯特·马森,你欺骗了所有人,并将大家化作一团火种。
他们很想知道你为什么这么做。
你觉得有必要解释清楚,免得被人当成神经病。
“我欺骗了你们,但你们难道没有欺骗其他人?虽然我无法亲眼目睹,但是只要简单计算就知道,鹰击号和鱼翔号现在正在上演人吃人的惨剧!”
你感觉心在刺痛。
“而你们呢?你们这群守财奴明明掌握着更先进的技术,却一点都不肯拿出来!是你们最先背叛了启航时的誓言!”
你恨死了这些混蛋。
这些端坐霜天之上的混蛋固执、自私、吝啬、傲慢……他们明明可以将更先进的技术共享出来,但是他们没有!
于是你怀着一腔热