晚近这段时间，AIGC(AI Generated Content，人工智能所生成的内容)的快速迭代演化，持续性地引爆全球。2023年3月14日，OpenAI正式发布多模态大语言模型GPT-4，将这轮AI热潮推上新的高峰。一位斯坦福学者甚至在社交媒体上公布GPT-4的“外逃计划”，并且引诱人类给予帮助。人们随即惊呼，人工智能是否已经具有了“意识”，却仍将自身打扮为人类的服务生?

2023年3月29日，包括马斯克以及多位图灵奖得主在内的千余位AI业界与学界专家联名签署了题为《暂停大型AI实验》的全球公开信，呼吁立即停止训练比GPT-4更强大的AI系统，暂停期至少6个月。2023年5月30日，超过350名人工智能行业研究人员、工程师和首席执行官联合签署了如下声明：

降低人工智能带来的灭绝风险，应该同大流行病、核战争等其他社会级规模的风险一起，成为一个全球优先事项。

这份发布在非营利组织“人工智能安全中心”网站上的简洁声明，签署者包括杰弗里·辛顿、约书亚·本希奥(辛顿与本希奥皆是2018年图灵奖得主)、谷歌DeepMind首席执行官戴米斯·哈萨比斯以及OpenAI首席执行官山姆·奥特曼。这些当代人工智能发展的核心贡献者，却恰恰认为自己所取得的成绩很可能会导致人类“灭绝”，并因此坐立不安、乃至联合起来公开呼吁。还有什么比这份吊诡的从业者声明，更清晰地标识出了可能到来的“技术奇点”(technological singularity)?然而，靠按下暂停键的方式，就能阻止奇点的到来?

实际上，长久以来大众媒体与科幻作品一直在推“机器末世”(Robopocalypse)画面，我称之为“人类vs人工智能”的对抗性模型。然而，这个画面在我看来极具误导性。如果人工智能将人类文明带向一个奇点式的未来，那一定不是在这种对抗性模型中发生。

人工智能已经具有“意识”了么?

要处理这个问题，就需要弄清楚当下这一波人工智能浪潮的技术路径。概而言之，它有三重技术路径：杰弗里·辛顿最先于上个世纪八十年代提出的深度神经网络，阿希西·瓦斯瓦尼同其谷歌同事们于2017年提出的基于关注机制的变换(transformer)模型，以及乔纳森·侯及其两位伯克利大学同事于2020年提出的漫射(diffusion)模型。深度神经网络利用梯度下降从海量的数据中提取特征;变换模型在不需要标注的情况下，自主提取出信息之间的关联;漫射模型则通过控制增噪/去噪的过程，将文本信息依照现实世界的样子进行具像化的渲染。

如果我们把“意识”理解为感知体验(对自我的内在体验形成“自我意识”)，那么，目前人工智能的三条发展路径，都无法使意识得以产生——当然，这个可能性仍可能会以“涌现”的方式出现，彻底超出我们借助理性所进行的“因果推断”。但即便人工智能不具备意识，并不意味着它不会带来全面的文明性挑战。

当代哲学家、认知科学家大卫·查默斯曾谈到一段令他头疼的遭遇。他发现另一位哲学家朋友对他的一篇访谈被学者们广泛引用;但问题是，他没有做过这场对话。最后他了解到，这是那位哲学家和GPT-3(GPT-4的上一代模型)的对话，他要求GPT-3用查默斯的方式来进行回答。让查默斯惊恐的是，这段访谈完全就像是他自己面对这几个问题时脑海中会出来的话，甚至讲得还到位，难怪学界同行们皆无法分辨。GPT-3阅读和学习了查默斯的思想，它还阅读了许许多多思想家的著作，它知道论争与分歧的焦点在哪里，它知道说哪些话会被认为点到了点子上，甚至会被学术期刊编辑认为值得发表。当然，它的知识面不只是在科学哲学领域，它读了许许多多的书、论文，甚至，毫不夸张的说，它读了所有值得读的书。

对于今天还愿意泡在图书馆啃读大部头著作的学子而言，人工智能的“深度学习”令他们遭受“深度”冲击：就读书而言，谁读得过GPT?一个人在70年生命里大概可以读十亿单词，而GTP-4已经读了万亿单词，也就是说，它已经读了一个能活到70000岁的人才可达到的阅读量，而智人(homo sapiens)的整个文明史也不会超越七万年。换言之，它能将整个智人的文明史事无巨细地读个遍。

事实上，GPT-4这样的大语言模型的问世，已然使得通用人工智能不再遥不可及：GPT-4能编程、写学术综述、创作诗词、剧本、设计广告文案、进行多语种翻译，能做医疗诊断，能帮助企业进行战略分析与管理，能做数据分析与进行预测，能以某知名人物的口吻来表述观点或风格来进行创作……人工智能越来越成为没有能力短板的“全职高手”，它能做很多事，而且做得相当好，极其好，用埃隆·马斯克的话来说，“好到吓人”(scary good)。对于正在从事相应工作的职场人士、专业人士而言，职场的大门还能打开多久?此前是A译者被能力更强的B译者所取代，C设计师比更具创意的D设计师取代，现在是所有的人类从业者都将被“生成式预训练变形金刚”(Generative Pre-trained Transformer，孩之宝公司超级IP“变形金刚”便是“Transformer”)取代——与后者相较，能力不足、并且管理成本高昂的前者将全面不被需要。

实际上，大量当代创作者明里暗里已经开启人工智能“代写”模式。人工智能之“智”，正在使人(“智人”)变成冗余。人类正在进入这样一个世界，在这个世界中，人工智能比人类更有知识，并且更会创作。这个世界，诚然是一个“后人类”的世界。

就在GPT-4问世3天后，OpenAI与宾夕法尼亚大学研究者在合作的论文中提出，由于大语言模型尤其是GPT的引入，约80%的美国劳动力将会受到影响，“影响涵盖了所有薪资水平，高收入岗位可能面临更大的影响”。研究者们故此把GPT称作“通用用途技术”(General-Purpose Technologies)，换言之，它几乎什么都能做。那么，实际上陷入全面无事可做的数量庞大的人，将何去何从?

这意味着，人类文明很快就会以非常现实主义的方式(而非超现实主义的方式、未来主义的方式抑或“科幻”的方式)，遭遇到“技术奇点”。我们要提前思考的是：靠按下暂停键的方式，就真的能阻止住奇点的到来?