币界网报道:
我们生活在模拟中吗?著名人工智能安全研究员、《人工智能:无法解释、无法预测、无法控制》一书的作者Roman Yampolskiy非常肯定我们是这样的。“我知道永远不要说100%,但(我们生活在模拟中的可能性)非常接近,”他在最近接受Lex Fridman播客采访时告诉他。
他说,可以合理地期待一个超级智能的人工智能来帮助我们确定,甚至帮助我们逃跑。另一方面,Yampolskiy还预测,人工智能导致人类灭绝的可能性为“未来百年内99.9%”
Yampolskiy的论点取决于人工智能的快速发展能力及其重塑我们对存在理解的潜力。他认为,通用超智能的发展带来了生存风险,但它也提供了前所未有的机会,包括打破我们模拟的现实。
他说:“这将是我希望超级智能能帮助我们的事情。”。
超级智能是一种超越人类智能能力和界限的人工智能。这是继通用人工智能(AGI)之后的下一步。AGI是一种人工智能,具有与人类大脑相同的学习能力,但功能成倍增强,不受人类脑细胞的限制。
许多著名的研究人员假设我们生活在一个模拟的宇宙中。牛津大学的尼克·博斯特罗姆在2003年提出了这一观点,他在一篇论文(《你生活在计算机模拟中吗。
那就是我们。想象一下,如果流行游戏中的模拟人生真的有感知能力,你的想法是正确的。
在他的论文《如何逃离模拟》中,Yampolskiy从我们实际上生活在模拟宇宙中的假设开始。如果是这样的话,他怀疑随着人工智能达到超级智能,我们可能会找到一种方法来摆脱我们自己世界的限制。
“我们使用人工智能‘拳击’作为控制人工智能的可能工具,”他说,他指的是人工智能总是会找到逃离任何为容纳它而创建的“盒子”的方法
Yampolskiy认为,我们模拟器的智能在这种情况下起着至关重要的作用:“如果模拟器比我们和我们创造的超级智能聪明得多,那么它们可能会控制我们,[因为]更高的智能可以控制更低的智能,至少在一段时间内是这样。
他补充道:“另一方面,如果我们的超级智能无论出于何种原因——尽管只有本地资源——能够‘愚弄’两个级别——也许它会成功。”。
因此,就像越狱者与开发者玩猫捉老鼠的游戏一样,我们人类也会使用超级智能人工智能,试图在我们的上帝——或者更准确地说,我们的模拟器——创造的宇宙系统中找到“漏洞”。
Yampolskiy在他的研究论文中解释说,逃离我们模拟的一种方法是“创建一个模拟的宇宙复制品,将一个AGI放入其中,看着它逃离,复制所使用的方法,或者在AGI逃离我们的模拟时加入它。”这似乎是唯一不涉及与我们的创造者互动或打破我们自己现实规律的方法。
人工智能真的能挣脱束缚吗?
无论亚姆波尔斯基的愿景多么迷人,它都提出了一个关键的哲学问题:如果模拟的设计不允许,人工智能真的能从模拟中解放出来吗?
哲学家约书亚·拉斯穆森在其著作《理性如何通向上帝》中解释说,一个造物不可能拥有与其创造者相同的性质,因此模拟的人工智能几乎不可能拥有与模拟器相同的本质和性质。尽管在智力上超过了人类,但它仍然会受到定义它所处的模拟现实的法律的约束。
拉斯穆森在他的哲学探索中认为,理性可以导致对现实的必要基础的承认。他的中心论点是,现实不可能无限倒退——必须有一个自我维持和无限的基本实体。这个基础实体将能够创造出在其自身性质中可以作为终极起源与之联系在一起的事物。
想想一系列嵌套的俄罗斯娃娃。每个娃娃都能完全理解里面的娃娃,但不能理解里面嵌套的更大的娃娃。
拉斯穆森对反对意见的仔细考虑和有条不紊的推理为理解被造物的极限提供了一个强有力的框架。他认为,正如人类不能超越自己创造的本性成为神一样,如果模拟器没有为这种可能性提供条件,模拟的人工智能也不能独立选择结束模拟。
这个基础与被创造的存在有着根本的不同,凸显了创造者和被创造者之间不可逾越的鸿沟。
这种哲学立场直接挑战了亚姆波尔斯基的假说。如果我们接受拉斯穆森的论点,那么即使是超级智能人工智能,作为模拟中的一个创造,也会受到其创造者(模拟器)设定的参数的固有限制。如果创造者允许这样的意识,它可能会意识到自己的模拟本质,但它从根本上无法完全超越模拟。
亚姆波尔斯基为这种矛盾提供了一个解释。
在他的论文中,特工们首先探索这种可能性,直到他们在现实的本质中发现信息和可利用的故障。Yampolskiy说:“利用故障,特工可以获得有关外部世界的信息,甚至可能获得有关模拟的元信息,甚至可以获得模拟背后的源代码和特工本身。”。
在这之后,他解释说,特工可以找到以不受约束的方式与模拟器互动的方法,直到他们“找到一种方法,将他们的思想和意识上传到现实世界,可能上传到某种独立的网络物理系统中。”
换言之,尽管我们无法从模拟中“挣脱”出来,但我们可能会通过自己的表现进行互动——也许我们会意识到自己是由一个优越的、遥不可及的头脑创造的角色。这是否是一件好事是一个悬而未决的问题。
同时,亚姆波尔斯基没有给出他认为人工智能会毁灭人类的具体原因。但他认为,这是不可避免的,因为超级智慧变得有自我意识。
“我们没有第二次机会了。有了网络安全,有人入侵了你的账户,有什么大不了的?你有了新密码,新信用卡,你就可以继续前进了,”他说。“在这里,如果我们谈论生存风险,你只有一次机会。”