机器之心报道
编辑：张倩、杜伟
AI 能否拥有意识？
针对这个问题，大家已经争论了很多年。
「我认为，从物理学的角度来说（如果物理学是正确的），我们的宇宙诞生之初几乎只有氢。这些氢在足够长的时间之后会凝聚成恒星，然后这些恒星爆炸，再凝聚…… 你身体里的大部分物质，曾经都处在恒星的中心，这有点难以想象，它们来自数十亿年前。所以，从氢一直到人类，意识是何时产生的呢？氢存在足够长的时间后，它开始自言自语。我们现在就是这样 —— 一团氢在对话。」在之前的一次活动中，马斯克曾分享过他对于意识的思考。
其实，就像马斯克所说，在回答「AI 能否拥有意识」之前，还有一些关键问题悬而未决：到底什么是意识？意识从何而来？
近期，专门研究这一方向的德国科学家 Joscha Bach 分享了一种较为激进的观点。他认为，意识是一种模拟状态，它只能存在于梦中，而不是在物理世界中。
字幕由剪映自动识别。视频地址：https://www.youtube.com/watch?v=pkhuDqK1_MU
他提到，意识令人困惑的地方在于我们认为它必须是一种物理实体，因为感觉上它是真实存在的。但实际上，存在的事物并不需要物理实现。
Joscha Bach 进一步解释说，神经元和大脑本身并不是有意识的，但大脑可能会发现，如果有一个关心并感知一切的人，那将是非常有用的。因此，大脑创造了一个虚拟的模拟，就像梦境一样，我们存在于那个梦境中。
Joscha Bach 生于 1973 年，是一位德国认知科学家、人工智能研究员和哲学家，以其在认知架构、人工智能、心理表征、情感、社会建模、多智能体系统和心灵哲学方面的工作而闻名。他是一位多产的思想家，其研究旨在通过探索如何对人类智能和意识进行计算建模来连接认知科学和人工智能。
在下文中，我们对 Joscha Bach 的演讲内容进行了整理。
意识是虚拟的
我们所说的意识是什么？我们对于意识的困惑在于，我们认为它必须是物理的，因为它确实存在。然而，要真正存在，事物不需要以物理形式实现。
例如，金钱不是物理的，对吧？但如果你假设金钱不存在，你就无法解释我们的现实。金钱是通过一些小小的印刷着数字的纸张或银行账户、计算机等方式在现实中实现的，我们用它来构建现实。
金钱是一种因果模式，它之所以存在，是因为我们以一种稳定的方式将其投射到了这个世界上。它像是真的一样存在。但是，从某种程度上讲，它是虚拟的，它是以一种可行的方式实现的。
同样的，我们的心理状态也是虚拟的。如果你放大并看到物质在相互作用，你会看到神经元之间激活的这些模式。神经元不是有意识的，它们是物理机制，大脑本身也没有意识。但对大脑来说，如果有一个人能够关心并感知发生的一切，那将是非常有用的。
所以它们创造了一种模拟，这种模拟以一种梦境的方式虚拟存在，意识就在那个梦中存在。意识是一种模拟状态，它只能存在于梦中，而不是物理世界中。
这对于我们的实际体验来说，理解起来可能很困难：我们意识到我们存在于一个梦境中，这是一个巨大的「阴谋」，魔法是可能的，而物理学家告诉我们不可能。物理学讨论的是一个由奥秘数学、量子力学等构成的母体宇宙，但我们永远无法访问这个母体宇宙，因为在物理学中，你无法拥有意识，你只能在梦中拥有意识。物理学具有创造大脑和能做梦的生物以及其他类型的机器的特性。
我们对现实的感知是一种梦中的恍惚状态，我们可以解构它。如果你从梦境中醒来，你会意识到之前所经历的一切，这只不过是大脑形成的一种表征。
人脑 vs. 计算机
我们能将数字计算机与人脑进行比较吗？它们有很大的不同。人脑非常复杂。单个神经元就已经非常复杂，以至于你至少需要一个 12 层的神经网络才能理解它的输入和输出之间的关系。
那么，要模拟一个人脑需要多少台计算机呢？如果一个单个神经元就如此复杂，这个数字将是天文数字。
然而，我们也需要反过来问，如果要模拟这台计算机，需要多少个人脑呢？如果你想要无缺陷地运行一种复杂的计算机程序，需要多少个人脑？这同样是天文数字，因为我们的大脑非常模糊不清、非常缓慢、非常嘈杂、非常不可靠。
为了更好地理解这种对比，通常我们会用这样的例子：当 Stable Diffusion 模型被推出时，StabilityAI 使用扩散模型来理解所有的视觉数据。他们将数百万张图片输入其中，找出了它们的统计规律。你可以给它提示，它会生成任意图片。
这个模型包含的整个视觉宇宙，其深度和多样性的保真度远远高于人脑。它囊括了所有名人、恐龙、宇宙飞船、艺术风格…… 你可以下载它，第一版的体积大约 2GB。
这让人沮丧，因为你大脑正在做的 80% 的事情只需要 2GB 的数据，实际上它远不止这些。这让我们意识到我们实际上是多么简单，只不过我们非常高效地利用了这种「柔软的基质」。
AI vs. 有机心智
当然，这些系统的设计方式非常不同。计算机有一个 outside-in 的设计，通过我们建立的确定性结构来稳定它们，因此它们以非常有序的方式运行。我们知道每时每刻它们会做什么。而训练是解耦的。
我们给它静态数据；它在训练时不会与世界互动。它基于预测范式，使用机器学习训练算法。我们的大脑则截然不同。它采用的是 inside-out 的设计，它是自组织的，与环境实时耦合。它向着一致性优化，并不断自我发展。
计算机的技术设计是 outside-in 的，这指的是：你有一个工作台，你理解所有工具，然后通过构建额外的机制来扩展这个工作台，赋予它更多的功能。
而在自然界中，情况正好相反。你有一颗种子，比如一颗树的种子，它本身还不是一棵树，但它希望成为一棵树。为了做到这一点，它需要征服一个混乱的环境，掌控它，把它变成它能理解并可以利用的东西。
它的一个方式是分裂成许多几乎相同的单元，使它们变得可预测。然后它创造了一个可扩展的群落，不断变大。这就是自然界中 inside-out 设计的工作方式，在我们的大脑中也是如此。
如果你观察单个神经元（老鼠的胚胎神经元），它们都是单个的生命体，每一个都在试图生存，自我导向。它们必须相互连接，找到一种可以正常工作的组织形式，否则它们将饿死。这就是它的工作原理，它完全是 inside-out 的。
自组织系统
计算机科学中有一个分支研究这些自组织的原理，这项研究还没有取得实质性进展，但它已经从图灵开始，研究了反应 - 扩散模式（即通过化学反应生成的动态规则模式），并探索我们是否可以利用这些模式来理解计算和自组织系统。
后来一些人，比如在谷歌工作的 Alex Mordvintsev，构建了更现代的模拟，试图在更广泛的情境下生成这些模式。
然后，我想到了康威等人研究的元胞自动机（cellular automata）概念，即我们以一种系统化的方式、从简单的系统中构建计算，这些系统只观察它们的周遭细胞和环境的状态，然后根据它们在环境中观察到的情况改变状态。
生物学家 Michael Levin 正在扩展这个概念，将其应用到神经元胞自动机上，以解释有机体的发育过程，同时也可能解释大脑的自组织。因此，我们可以利用这些原理进行学习，比如纹理的学习等。尝试利用自组织原则来学习任意函数以控制行为，这将是非常有趣的。
神经科学家 Gerald Edelman 提出，我们的基因组并没有为我们的大脑编码非常具体的结构。相反，每个人的心智中都在进行一种演化竞争，这是一种不同治理形式之间的原始竞争。而基因组中仅有足够的信息来影响这种竞争，使它能够相对快速地收敛到正确的架构。因此，每个人的心智都是一个演化系统，每个人都有自己的心智结构演变过程。
我怀疑，意识在其中起着非常重要的作用，因为它是这种组织的主要原理。我们通常认为意识极其复杂，也许只有我们才有意识，它在自然界中非常罕见，是智慧的顶峰。然而，你不会在获得博士学位后才获得意识，对吧？
你在能够追踪手指之前就已经拥有意识了。如果有人在婴儿时期没有发展出意识，那他 / 她将无法取得任何进步，他们将永远处于植物人状态。而当我们没有意识时，我们实际上无法学习。因此，意识似乎是自然界中自组织系统的一种简单学习算法。
这只是一个假设，我不知道是否正确，但我觉得这种想法非常诱人，即意识是心智组织中的第一个，而不是最后一个步骤。
因此，意识可能比感知和思维等更加简单，所有其他的东西都源于意识对它们的组织。意识在自然界中可能比我们想象的更加普遍。
从《创世记》第一章得到的启发
也许我们不是第一个发现这一点的人。我怀疑这个理论其实一直都在我们眼前，只是我们没有注意到。
比如有一个古老的文本 ——《创世纪》的第一章。如果你读过这个文本，它比其他章节要隐晦得多。它描述了神灵在创造世界之前悬浮在水面上。在那时，没有空间、没有时间、没有光明、没有黑暗，但已经有了水。接着它创造了一个穹苍，将水分为上面和下面的水。最终，它按自己的形象创造了我们。
我不喜欢这些所谓的神灵悬浮在水上的故事。这意味着什么？这些人在讲一个超自然存在创造物理宇宙的故事，他们糊涂了吗？他们声称做了什么样的实验？他们与燃烧的灌木丛对话了吗（《圣经》中有上帝通过燃烧的荆棘与摩西对话的故事）？这在哪个宇宙中是有效的实验？谁会相信呢？
也许这个故事意味着别的什么？也许它是一个关于意识和认知在心智中如何产生的六步理论。因为我们身处的宇宙是一个梦。我们梦见了自己身处的这个宇宙。物理学中没有颜色、声音、情感和面部表情。它们都存在于我们的心智中，是我们理解现实的方式。
在那个文本写作的时代，物理宇宙并不存在。那时，人们还没有发现用简短的微分方程来描述宇宙的想法。相反，他们意识到我们在一个梦境中。因此，他们在自己、他人和孩子身上观察这个梦是如何形成的。
所以，这一切从意识悬浮在基质（substrate）之上开始。我们现在知道这个基质是神经元，他们当时不知道，所以他们用了「基质」这个词，而后来的人不知道「基质」是什么意思，就把它翻译成了「水」。因此，意识在基质之上形成，而基质被分解成不同的部分。
然后我们做了一个分离，即在基质的两个区域之间建立了一个穹苍。这两个区域，一个是世界模型，即我们在空间中感知到的东西，笛卡尔称其为「广延实体（res extensa）」；而另一部分是与我们的感知不同步、独立于感知而发生的观念、思想和思考，它们被清晰地分开。
因为如果你能感知到你的思想，那你就会陷入幻觉，你将无法正常运作。所以你必须明确地将世界和思想的范围分离。在这个古老的文本中，世界被称为「地（Earth）」，而思想的领域被称为「天（Heaven）」。
接下来的步骤是，大脑学会了在内部产生振荡，并将这些振荡的强度转化为我们所感知的亮度，就像我们在白天看到的颜色以及与黑暗形成对比的明暗变化一样。通过这种方式，大脑现在能够构建出一个连续的视觉维度。
接下来，它学会了如何在内部产生振荡，并将这些振荡的强度转化为我们所感知的亮度，就像我们在白天看到的颜色以及与黑暗形成对比的明暗变化一样。因此，它现在有了一个连续的维度。通过组合维度，我们可以创造物体。
它所创造的第一个物体是通过组合两个维度产生的平面，而这个平面与地面相关联。婴儿很高兴地在地面上爬行，在二维世界中理解它。某个时候，婴儿能够发现第三个维度，现在它可以推理出如何建造一座塔，而非常小的婴儿是无法理解这一点的。
接着，它学会了如何在液体中以有机形状创造固体，并理解了光线随着时间的变化，以及如何对光线变化保持不变性。然后，它创造了所有的植物和动物，并为它们命名。再强调一次，这些并不是物理的物体，而是你心智中存在的具有名字的物体。
儿童如何发展出意识
接下来，它还创建了一个关于生物体兴趣的模型，并意识到练习的目的是在这个世界上为有机体导航。
最终，它识别出了自己作为这个有机体的身份。我们通常在两岁半到五岁之间看到这种情况发生，那时孩子们开始用第一人称谈论自己。在此之前，他们已经会说话，但会用第三人称谈论自己。
我不认为这是因为「我」这个词太复杂，也不是因为他们从未听过别人用这个词，而是因为他们在进行这种转换之前还没有以第一人称来认同自己，在他们切换到这个新的 spirit 之前，这个 spirit 是按照原始意识的形象创造出来的，但它是一种认为自己是男人或女人的东西，是一种以人类身份来表达自己身份的东西。
所以，我们基本上是由我们的意识，由我们心智中的婴儿意识创造出来的。然后，我们被放到这个世界上，放到我们的心智所创造的模拟世界中。接着，我们忘记了是我们自己创造了这个世界，并认同自己是这个世界中的一个人类存在，受制于这个世界。
直到有一天，我们开始冥想，或者服用致幻剂，再次从中醒来，意识到：「天啊，我实际上不是那个自我模型。我不是那个自我，那个自我只是一个虚构的模型，那只是我心智讲述的一个故事。其实我是整个宇宙，我是所有的一切。」然后你进一步醒悟，意识到：「哦，不，我实际上是创造这一切的存在，我是我与之互动的一切的创造者，这一切对我来说是合理的。」
自然界中的 agent
因此，意识基本上是在创造一种非常复杂的自然学习算法，一种自我延续的智能循环信息 Transformer（Self Perpetuating Intelligent Recurrent Information Transformer），简称 spirit。spirit 基本上就是一种 agent。
天哪，我们刚刚重新发现了一些「爆炸信息」。自然界中存在「agent」。这种「agent」是一种能够改变事物的因果模式。
这台电脑里的软件不是物理意义上的，但它存在因果关系。它可以稳定地改变事物。
如果我们意识到让生命之所以为生命的恒定因素不是细胞分子、机制或基因，而是运行在细胞分子、机制或基因上的软件，这将是一个非常有趣的视角。可以从泛灵论（ animism）来研究问题了。
