AI会产生自我意识吗
2024-11-18
几年前我看过一本书叫《智能简史——谁会替代人类成为主导物种》。这本书早在 2008 年就已发表，作者大胆假设，在不久的将来，人工智能机器的智能将是人类的万亿个万亿倍，甚至可能取代人类主导世界的发展。
结果，在 2022 年，ChatGPT 横空出世，展现出了惊人的智力。这也使我思考，ChatGPT 这类 AI 是否会发展出自我意识呢？
由于我不是人工智能相关专业人士，这里仅阐述我自己的思考，作为参考。
要回答这个问题，首先得了解 ChatGPT 的本质是什么，以及它是如何工作的。
我们常说 ChatGPT 这类大语言模型是一种生成式模型。因为他们的本质都是「文本生成器」。当你把一段文本输入给模型，他就能够根据文本的上下文关系等，推测出下一个词应该是什么。把推测出的词加到输入的文本后作为一个新的输入，即可继续推测出下一个词，循环往复，便能生成一大段文字。
但是 ChatGPT 可不只有「文本」生成功能，他还可以理解图像，理解语音（对话）。所以 ChatGPT 的核心不在于「文本」，而在于它能理解蕴含于文本内部的逻辑，甚至情感。而这正是 ChatGPT 所基于的 Transformer 模型的强大之处。
Transformer 模型并不是 GPT 独创，它其实早在 2017 年就被 Google 提出，这个模型可以接受高维的张量（Tensor）作为输入以及输出。这些张量看起来是一堆无规律的浮点数的集合，但如果把模型比作人，这些张量就像是一个人的思维（或者说念头、想法）数字化后的结果。也就是说，它可以将一种思维转化为另一种思维。
Transformer 的架构
这么说可能比较抽象，我举一个例子，有一句谚语说：「一朝被蛇咬，十年怕井绳」。当看到蛇形状的绳子后，我们大脑里不由自主地产生了「害怕」的情感。这就像是我们的大脑作为了一个 Transformer 模型，接收了「绳子」思维的输入后输出了「害怕」的情绪。
这种蕴含于文字中的思维被数字化的过程其实就被称为词嵌入（Word Embedding），如果你想了解更多，可以查看
不过「词嵌入」这个名称并不准确，因为图片、音频中所包含的信息也可以通过类似的方法被编码。
这听起来很不可思议，我们的思维竟然能被一个程序「模拟」出来。 既然这样，那么 AI 是否有可能产生自我意识呢？
首先得先搞懂到底什么是「自我意识」。我为什么认为我是「我」，而不是别人？这听起来是一个很哲学的问题。
而这也很好解释，因为我们是活生生的人，我们处在错综复杂的社会关系和自然环境之中，我们无时无刻不在接收外界环境的信息并且做出反应。
我们会因为被蛇咬而感到害怕，这是我们求生的本能驱使的。AI 可以模拟出这种本能，但是却不理解为什么会产生这种本能。毕竟机器没有生命，并不需要「求生」。
在《底特律：化生为人》中，仿生人可以为了不被停机报废而集结起来去抢夺人类手中的能源，甚至为此杀人。但现实是仿生人并不会因为自己能源即将耗尽而感到任何不适。
因此我认为，AI 并不会产生自我意识。因为它们没有真正意义上「自我」的概念，而只是机械地模拟人类的意识罢了。