爱华网问题3. “为什么没有一个甜蜜和轻松的前景呢？”很多人认为，当我预言人工智能问题将爆发一场战争的时候，我可能太极端了。他们认为人工智能机器和人类应该能够以一种“甜蜜和轻松”的方式和谐共处。举个例子，下面是两个这样的观点。【来信】亲爱的德8226;加里斯教授：我读过您的一些关于人工智能的文章，并且我或多或少地同意您的观点，那就是本世纪最重要的辩论之一，将是关于“人类”这个词汇的定义问题。然而，在您的文章中，还有一篇cnn.com上的名为“瑞士科学家关于机器人的《圣经》哈米吉多顿(世界末日善恶决战的战场)之战的警告”的报道中，我认为您夸大了这个可能性，那就是肉身人类和非肉身人类的不同会导致战争。这种下意识的反人工智能情感出现在一些科幻小说中，例如电影《终结者》，并且不值得作为严肃讨论的主题。aihuau.com我们(超人的/外星人的/宇宙主义的个体和科学家)应该做的是去强调这点，那就是人工智能机器一旦开发出来，应该被当作奴隶一样去对待，而不应该以我们对待人类一样的尊敬态度来看待它们的存在。只是由于人类是由猿猴进化出来这一点并不能说明我们应该灭绝猿猴。只是由于另一个个体拥有和你同样的渴望，那就是通过获取和处理资源而生活和制造财富，并不意味着它们对你来说是一个威胁，并且应该死亡。【回答】这种“慷慨的”空洞的观点我认为是很幼稚的，因为它是建立在信任基础上的，也就是说，人类相信，人工智能机器将一直对我们很友好。我认为它忽视了一个重要的概念—— 风险。如果人类可以100%确定人工智能机器，特别是高级人工智能机器，将一直以我们期待的方式对待我们，那当然是非常理想的。但是，我们不能肯定。我认为，人工智能机器将不得不需要通过进化工程技术来制造，正如我在本书(第5章)中提到的一样，并且因此，我们永远不可能肯定它们的电路对于人类来说是“道德的”。人工智能机器们可能会冷酷地认为人类只是害虫，或者人类对于它们来说是如此的低等，以至消灭我们从它们的角度来看也毫无关系。对于它们来说，杀死人类就像我们杀死蚊子或者踩死蚂蚁一样。由于这个赌注关系到整个人类的生存，我认为地球主义者不会容忍这个危险。他们可能期待最好的，但是，他们的领导们却有着最坏的打算，最极端来说，如果宇宙主义者真的要制造高级人工智能机器的话，他们将计划发动一场针对宇宙主义者的战争。我不认为人类将把人工智能机器看作奴隶。当然，一开始，当它们还只是愚钝的机器人的时候，可能会被这样对待。真正让我担心的是相反的情形。看看人类是怎样对待牛、猪、鸭子等动物的。和它们相比，我们觉得自己是如此的高等，它们对于我们来说是美味佳肴，屠宰它们我们一点不介意，除非你是一个素食主义者。在转化阶段，当人工智能机器还基本上是人类智慧水平的时候，有可能平等对待它们，但是在某种意义上，它们不是我们的同类，因为它们拥有迅速超越并且是大规模超越我们的能力。人类相对于人工智能机器来说非常局限，我们的大脑体积是固定的，我们思考和学习都很缓慢。一个在某个时刻具有人类智能的人工智能机器可以在一个小时之后变成天才。记住，它的思维速度比我们至少快100万倍。如果它准备增加其内存大小等，那么，它的能力可以增长得更快。我认为，这个评论给予人工智能机器太多的人性。它们将和我们非常不同，并且潜在的能力将极大地优越于我们。而且，我觉得这个评论严重低估了人类对与高级人工智能机器共存这个事实的恐惧—— 地球主义的恐惧。我们将不得不去信任它们不会杀死我们。大多数地球主义者不愿意面对这个风险。他们宁愿去面对他们所知的恶魔，即宇宙主义者，他们至少还是人类，战胜他们至少还有一半的机会。如果人工智能机器存在并且决定必须消灭人类的话，那么人类获胜的几率将是零。来信人的评论不够政治性，他没有面对残酷的现实，他不适合作为一个将军或是一名政治领导者。【来信】亲爱的德8226;加里斯教授：我很荣幸地作为一名听众聆听了您在墨尔本大学计算机系做的演讲。和您一样，我认为我们应该去认真思考随着“人工智能”的出现而带来的各种各样的可能。显然，我不知道未来会在技术、政治，或纯哲学上带来些什么。但是，我预想了一个和您预想的世界末日画面有些不同的场景：不是迅速地被超级人工智能机器大大超越，我们可能发现人工智能机器正逐步溶入人类的生命形式中，从而被认为是我们中的一员，并且从长期来看，发现拥有“人类的”身体—— 即智人的身体—— 对于成为人类不是那么的重要。一句话，我们将逐渐发现它们正在变成我们而且我们也在变成它们。【回答】我同意，某些人希望变为半机器人并且和其他具有相似意向的半机器人和睦相处，它们都是处于变成高级人工智能机器的转型中。但是这个观点，即每个人都想要这样做，同样是幼稚和不现实的。思考一下，如果人类要变为半机器人，从定义上意味着，在某种程度上可能要通过添加高科技成分来改变他们的大脑，这将改变其行为。地球主义者会对这些半机器人有怎样的反应呢？年轻的妈妈们会接受她们的孩子被“改良”吗？事实上，大多数母亲们不是对此观点持排斥态度吗？是不是大多数母亲会觉得她们的孩子在某种意义上已经变成了“怪物”，或者从外观上，或者是某种看不见的移植，成长的小孩在某种层面上似乎还是不同的，以一种非常的令人不安和非人类的方式存在？
地球主义者将不信任半机器人，并且把它们推向宇宙主义者。甚至很有可能，半机器人会使很多宇宙主义者重新考虑自己的宇宙主义观点，并且回归到地球主义。作为结果，这可能会在宇宙主义者的领地内产生一些现实问题和更大的复杂性。半机器人可能需要和宇宙主义者结盟，如果它们希望更多的人类接受它们。我看不到“它们变成我们以及我们变成它们”。我只看到了不信任、憎恨，以及从长远观点来看的战争。实在抱歉说得如此直接，但我认为这样更现实。
