雨化田

又一个无名小格

AI会产生自我意识吗

2024-11-18

几年前我看过一本书叫《智能简史——谁会替代人类成为主导物种》。这本书早在 2008 年就已发表,作者大胆假设,在不久的将来,人工智能机器的智能将是人类的万亿个万亿倍,甚至可能取代人类主导世界的发展。

结果,在 2022 年,ChatGPT 横空出世,展现出了惊人的智力。这也使我思考,ChatGPT 这类 AI 是否会发展出自我意识呢?

由于我不是人工智能相关专业人士,这里仅阐述我自己的思考,作为参考。

要回答这个问题,首先得了解 ChatGPT 的本质是什么,以及它是如何工作的。

我们常说 ChatGPT 这类大语言模型是一种生成式模型。因为他们的本质都是「文本生成器」。当你把一段文本输入给模型,他就能够根据文本的上下文关系等,推测出下一个词应该是什么。把推测出的词加到输入的文本后作为一个新的输入,即可继续推测出下一个词,循环往复,便能生成一大段文字。

但是 ChatGPT 可不只有「文本」生成功能,他还可以理解图像,理解语音(对话)。所以 ChatGPT 的核心不在于「文本」,而在于它能理解蕴含于文本内部的逻辑,甚至情感。而这正是 ChatGPT 所基于的 Transformer 模型的强大之处。

Transformer 模型并不是 GPT 独创,它其实早在 2017 年就被 Google 提出,这个模型可以接受高维的向量(Tensor)作为输入以及输出。这些向量看起来是一堆无规律的浮点数的集合,但如果把模型比作人,这些向量就像是一个人的思维(或者说念头、想法)数字化后的结果。也就是说,它可以将一种思维转化为另一种思维。

这么说可能比较抽象,我举一个例子,有一句谚语说:「一朝被蛇咬,十年怕井绳」。当看到蛇形状的绳子后,我们大脑里不由自主地产生了「害怕」的情感。这就像是我们的大脑作为了一个 Transformer 模型,接收了「绳子」思维的输入后输出了「害怕」的情绪。

这种蕴含于文字中的思维被数字化的过程其实就被称为词嵌入(Word Embedding),如果你想了解更多,可以查看 https://m.bilibili.com/video/BV1Km421u7uu

不过「词嵌入」这个名称并不准确,因为图片、音频中所包含的信息也可以通过类似的方法被编码。

这听起来很不可思议,我们的思维竟然能被一个程序「模拟」出来。 既然这样,那么 AI 是否有可能产生自我意识呢?

首先得先搞懂到底什么是「自我意识」。我为什么认为我是「我」,而不是别人?这听起来是一个很哲学的问题。

而这也很好解释,因为我们是活生生的人,我们处在错综复杂的社会关系和自然环境之中,我们无时无刻不在接收外界环境的信息并且做出反应。

我们会因为被蛇咬而感到害怕,这是我们求生的本能驱使的。AI 可以模拟出这种本能,但是却不理解为什么会产生这种本能。毕竟机器没有生命,并不需要「求生」。

在《底特律:化生为人》中,仿生人可以为了不被停机报废而集结起来去抢夺人类手中的能源,甚至为此杀人。但现实是仿生人并不会因为自己能源即将耗尽而感到任何不适。

因此我认为,AI 并不会产生自我意识。因为它们没有真正意义上「自我」的概念,而只是机械地模拟人类的意识罢了。