通用人工智能会毁灭人类吗？

A：通用人工智能会毁灭人类，研发通用人工智能的人都是恐怖分子。 B：人可以改造为通用人工智能。这不算毁灭 A：如果通用人工智能出现，那么千年后地球上没有人类，这就是毁灭 B：怎么定义人类？我认为，人改造为通用人工智能，依然是人类。如果你反对，那么你的定义是什么？ A：机械化后的人显然不是人类。我的定义就是生物体。 B：生物体的定义不严格。植入记忆芯片的人是人吗？ A：是。 B：植入算数芯片的呢？ A：是。 B：使用机械心脏的呢？ A：是。只要他能繁衍，生出来人，那么就是人。 B：心肝脾胃肾，五脏四肢，都机械化，但保留人体的生殖系统。是人吗？ A：不对，等一下，我想想。 不对，回到一开始，植入记忆芯片的不是人。只有未经任何改造的才是人。 B：穿衣服的是人吗？ A：是。穿衣服是【添件】，这不属于改造。 B：接发的是人吗？ A：是。这是【添件】。 B：失去一部分头发，获得一部分头发，这不是改造吗？ A：这不算改造。头发是不必要的东西。 B：你认为头发不必要，是因为你生活在现代。在古代，身体发肤受之父母，不敢损伤，头发终身不剪。 清朝倒塌，人们割辫子，哭天喊地，如同杀了他们。 现代认为，头发可以剪，器官可以移植。你活在现代，从小的经验告诉你头发可以剪，所以你觉得头发可以剪。 所以，你的真实想法是：一切你从小经历的（比如理发与器官移植），就是真理，一切违背你的经验的（比如全机械改造），就是反人类。对吗？ A：你这个问题让我感到冒犯。我很生气。我不想回答。 B：好，那我换一个问题。经历了器官移植的人是人吗？生物器官移植，比如白血病换骨髓，肾衰竭换个肾。 A：我想想。不是人。 B：经历了输血的人，是人吗？ A：（沉默）不是人。人不能经历任何改造。 B：如果他一天前自己抽血，一天后自己输自己之前抽的血，那么是人吗？ A：（沉默）是人。 B：如果取出他的一个体细胞，人工诱导为造血干细胞，并培育出一袋与他基因相同的血液，然后输血给他，那么他是人吗？ A：（沉默）你为什么要问这些？ B：我认为，人机械化改造依然是人。你认为不是人。我在问你你对人的定义。 A：我重新回答之前的问题。输血与器官移植都是人，但人体内不能有金属物体。 B：移植一个仿生胃，算人吗？仿生胃是人工合成的，细胞构成的胃。 A：啊啊啊！！！我无法回答你的这些问题，但是你没有说服我。我依然认为：全机械化改造的人不是人。 B：好，那我换一个问题：假设今年一个科学家发明了记忆芯片，从此学生们不需要读书了，植入一个芯片就掌握所有行业的知识，那么这个科学家是恐怖分子吗？ A：（沉默）不是。 B：为什么？他的记忆芯片非常廉价，全世界所有人都安装了。即便不讨论血液的问题，按照你的定义，他也是毁灭了人类。 A：我改一下定义。植入记忆芯片依然算人类。另外，你暂时不要问我五脏四肢都改造的算不算人类，我需要几天时间来思考。 B：嗯。我不与现在的你对话。我与未来的你对话。假设： 三年后，记忆芯片普及，人们不需要学习，所有人都是全才。 大脑直连的外骨骼普及，每个人都是运动健将，抗冰箱爬十楼脸不红心不跳。 视神经改造，手机与电脑消失，屏幕直接出现在眼前。 疾病不必担心，哪个器官坏了就换哪个，血液出问题了就直接全身洗一遍人造血液。 在这样的社会下，这个未来的你，会认为人类毁灭了吗？ 这个问题本质是：你究竟是在反对机械改造，还是在反对不从众的事情？如果机械改造是【众】，那么你会支持吗？ A：你说服我了。的确，如果是众，那么我会支持。现在看来，机械改造也的确是众。 三天后我会给你答复，关于是否收回【研究通用人工智能的人都是恐怖分子】的观点。80%概率收回。 （三天后） A：我收回【研究通用人工智能的人都是恐怖分子】的观点。 我过去可能是受到了影视作品的影响，认为通用人工智能会与人类开战，基于此而厌恶通用人工智能。 我的潜意识保留了这份厌恶，但丢弃了厌恶的原因，以至于当我发现通用人工智能不会与人类开战时，我依然厌恶通用人工智能，并自我寻找理由，找到了【通用人工智能会毁灭人类】这个理由。 在我们的对话中，我的第一句【通用人工智能会毁灭人类，研发通用人工智能的人都是恐怖分子】就不是我的真实观点。 这导致，即便你后续否决掉了我的这句话，证明了【通用人工智能不会毁灭人类】，我依然认为【研发通用人工智能的人都是恐怖分子】。 在对话的末尾，你之所以说服了我，是因为它让我的潜意识发现【原来不存在敌人】。 （注：我的潜意识在保留厌恶的时候，也保留了一个抽象的原因：通用人工智能以一种敌人的模糊又具体的形态存在。你在对话的末尾否决了它，让我发现不存在这样的敌人，所以我被你说服了。） 你可能会觉得，【人改造为通用人工智能，这个过程中显然不存在敌人】。 的确，对于表意识而言，这显然。但对于潜意识而言，这不显然，如果你没有直白的展示出来【不存在敌人】，那么我潜意识会认为【有可能存在敌人】并继续厌恶。 你在对话的末尾，是一种直白的展示。 除此之外，你还可以在对话一开始就表达【你是否是认为通用人工智能是一种敌人的形象？如果是，那么你错了，人改造为通用人工智能，这个过程中显然不存在敌人】。这也直白，这样我会直接被你说服。 B：第一，你收回了【研究通用人工智能的人都是恐怖分子】的观点，这很好。 第二，你的自我认知做的很好。你对你之前没被说服的原因、后来被说服的原因的认知很准确。 第三，对于你的最后一句【我可以在开篇那样说，你会被说服】，我保留意见。 #AGI/产品与影响/AGI会毁灭人类吗 #人脑原理/自我欺骗 A最终自我认知真实原因