杂论：人工智能及其心理效应

本文并非一种对AI的各种意见的理论化的尝试，这项任务过于艰巨复杂，无法被放在这样短的篇幅内。我写这篇文章，旨在对AI在人心中引发的种种情感和认知做一个简单的侧写，并作简要的分析。

1966年，MIT的Joseph Weizenbaum主导研发了ELIZA。ELIZA是最早的自然语言处理程序之一。限于当时的计算能力和理论水平，实际上它所作的就是以非常原始的方式识别语言的语法模式，并根据程序化的脚本进行回应。ELIZA可以搭载不同的脚本从而切换不同的回答方式，但是最著名的则是按照人本主义心理学范式构造的DOCTOR脚本。搭载了DOCTOR的ELIZA可以恰当地回应人的情感表达和困惑，从中识别出模式，进而将问题抛给用户，引导用户谈论和探寻自己的感受。

Weizenbaum设计这个程序的动机是试图证明机器可以和人维持交流，至少能够短暂地给人一种“我在和人交流而不是和机器交流”的假象。显然他做的很成功，甚至远远超出了其原本的目标。Weizenbaum的秘书甚至请求他下班之后给她一段时间和ELIZA独处倾诉。Weizenbaum的秘书显然也了解ELIZA/DOCTOR是一段程序，但是她将自己的情感投射在ELIZA身上，将这样一个非人类的智能赋予了人化的形象，因此，ELIZA对她，以及许多当时的早期使用者而言，又不止是一段程序，还是一个可以交流，甚至可以共情，可以理解的对象。

Weizenbaum对这一现象非常惊讶，因为他本来认为，随着人们对这个程序的模式化本质的认识加深，这一“幻象”会慢慢消除，使用者会不再把它看作是可以理解人类语言，可以共情的存在，而只是一段可以处理语言并给出回复的程序。但是这并没有发生。对ELIZA是一个以机械的方式给出回答的程序的认知，并没有排斥对ELIZA是一个可以理解他人内心想法的存在的认知。这两种认识同时存在，不仅如此，还有另一个相伴的现象：随着使用时间的增长，即使ELIZA本身用于回复的脚本没有任何变化，但是使用者会觉得它变得更加聪明，也更加了解自己了。这系列的现象，在之后计算机发展的历史上不断重现，以至于将人类特质赋予非人类的程序的现象，被命名为ELIZA效应。

其实人类倾向于将各种事物拟人化，这是古已有之的事实。人们以人的方式对待宠物，以人的方式对待各种故事里的虚构人物，各种图案，画像，符号，甚至有时候以人的方式对待神。这是所谓社会化功能的核心，我们将对人的认知和社交技巧拓展至其他事物。我们同时也会用工具化的态度来对待一切，包括我们自己，因此“作为人来对待”和“作为工具来对待”在人这里并不是互相矛盾的。这就意味着，即使我们明确意识到AI主要作为我们的工具存在，我们依然不可避免地对它赋予各种人性，用对待人的方式来对待它。反过来这也成立，即使我们明确意识到对方是活生生的人，我们对他们的看法之中很难去除掉功利性的动机，工具化的动机。这是所谓的“人之常情”。

除了人对AI的自我投射，视其为知己的情况之外，AI给人也带来了很多惊奇，这些惊奇的内容多种多样，有的震惊于AI生成语言和图像的速度，有的惊讶于AI展现出了人很难展现的技巧，有的则对其所吸收的巨量信息感到啧啧称奇。但是其中最让人惊奇的，应该是仅靠对已有知识的计算就可以产生常人难以想象的事物，这种方法本身就让人自身的智力不再特殊。我们的习惯是认为只有人是智力的载体，而AI即使不是和我们以同样方式进行思考和理解的，也表现出了一种拥有智力的样子，而且这种“智力”是无限可复制的，不需要依赖于一代一代的教育传承和经验累积。人类的知识自身就足以成为一个自动机，自我归纳，自我整理，甚至在未来自我演化，这个可能性本来就让人头晕目眩。

人们常常对现有的各种AI提出质疑，认为它们“并不理解”它们所学习的事物，也不理解它自己所生成的话语。但是这个问题远比它看上去复杂，因为所谓的“理解”，并不是一个有确切定义的概念，而是涉及到认知论，心智哲学，语言哲学等领域的复杂话题。依照不同的对“何为理解”的观念，我们可以得出完全不同的回答。即使是对于人而言，何为理解也没有一个准确的答案。但是即使不深究理解和概念的定义，我们依然发现，许多人会认为AI以和人相同或者相似的方式来理解事物，而这就是成问题的了。不管是ELIZA还是近来不断迭代的大语言模型，其对事物的“理解”都是基于一系列可还原为数学计算的操作的（否则基于数学计算的电脑便无法执行任何智能功能），然而除非是那些坚定的神经机械论者，大部分人不会觉得人的理解也可以被还原为数学计算，或者对神经电信号的计算。我们的理解，我们的思想，即使按照部分语言哲学家的观点，可以被解构为对语词之间的复杂关系的掌握（所谓的“能指网络”），也不能和某种纯粹形式化的数学结构（无论多么复杂）产生对应关系。

可问题是，我们目前甚至还没有对自己的智能有足够的了解，来解释我们自身的意识究竟又是怎么样的。从现象学的观点来看，我们的意识有一个时间性的结构，意识的各种素材在意识内部停留一段时间，和各种各样的印象进行比对和处理，才会输出为某种行动，某种话语和思想的表达。这一点和现有的大语言模型AI其实是不一样的，因为大语言模型不依赖于这种时序性的结构来处理信息，而是直接线性地处理输入的计算，这意味着它可以任意地加速或者减速而不变形，输出同样的结果，而人类的意识进行任何程度的“加速/减速”都会深刻地改变它的根本特性。意识还有一个意向性的结构，一个基本的注意力机制，这个注意力机制比较单一，相对于AI可以增加自己的“注意力头”从而实现复杂的多任务并行处理相比，也远远没有那么灵活。但是，尽管我们知道这些不同之处，我们却没法解释AI究竟有没有“自我意识”。自我意识又是什么？我们更没法解释我们自身的意识和AI的结构更根本的区别在哪。这些问题陷入了无尽的争执和谜团，让我们对此迷惑不已。有可能，更根本的问题恰巧在于，由于人类学机制，人现在必须以比过往更多的努力来界定自己和AI以及越来越多复杂机械的区别，而这个人类的独特性在人们的日常生活中无法凸显出来。我们在如今的世界往往是像机器一样地生活的。我们的消费，生活和创造机制都越来越机械化，以至于可以落入控制论系统的掌控之中。在AI能表现越来越多人类的功能的同时，我们的表现也越来越机械化，可预测化。即使我们真的拥有不同的本质，可是这种表象功能的同化也确实给人隐忧与恐惧。

我们还没有谈及AI所吸收的那些巨量知识。自互联网出现以来，不计其数的信息都已经被数字化，有时候我们的惊奇并不是对AI展现的能力的，而是简单的对人类积累的巨量知识和理论的惊奇。大多数人都不生活在图书馆里，对于人类上千年知识的积累很难产生一个直观的概念，因为它们光是体量就可以填满一个个书架，远超过一个人一辈子的阅读量。这就导致了另一种想法，当我们对用于训练AI的数据量有一个概念的时候，反而会对它吸收了这么多知识却只能做到这些事情而感到遗憾，至少就现在而言，大语言模型远远没有人类那么高效的输入产出比，这也是它并不是所谓“强AI”的证明。换句话说就是，大模型的巨大尺度（数十亿甚至数千亿参数，最大的那些超过人类脑中神经元总数）和漫长的计算训练并没有产生同等壮观的智能，而仅仅是在大多数领域训练出了和人类中的优秀者差不多的能力。它的速度也仅仅来自于集群计算的规模和快如闪电的硬件频率，如同愚人花费数百年在猴子打字机里挑选出可读的段落一样。

我们中的很多人认为AI表现出了创造力，但是也有很多人否认它的创造性。这也带来了许多忧虑，因为原先只有人被认为是创造的主体，创造是属于人的独一无二的能力，甚至是定义人的概念之一。考虑到现有基于神经网络训练的AI的现状，AI的确可以说表现出了创造力，但是仅仅是在它的训练数据集范围内的表现，毕竟它无法真正凭空创造没有被训练过的全新信息和概念。在技术哲学的层面，它所作的只是“传义”，即输出的内容没有超过输入的内容的过程。然而人的思想似乎总是蕴含“转义”的潜能，即输出的内容超出了输入的内容，出现了一些原先不存在的东西。在另一些领域，我们把它叫做“涌现”。涌现或者转义其实没有限定于人类，而是宇宙的一个基本属性，毕竟生命就是从复杂的化学运动中的涌现的结果，但是AI产生的涌现，根本上不是显现出“智能”，而只是诞生了处理和生成大量信息的能力。这些能力有的表现出“思考”的表象，展现出了和人类的“推理”的相似之处，但是这也仅限展现了相似性而已，因为我们不难发现反例：AI看似在输出思考和推理，但是其中没有任何形式上的连贯性可言，更无所谓真正的推理。我们显然没有理由认为它和人类一样地在思考和推理，它们表现出的连贯性，不如说是通过计算，在数学上切近和拟合人类思维连贯性的结果。AI的创造力远远在人的集体创造力之下。但是，问题或许并不止在AI那边，因为人自身的许多创作也像是ELIZA那样遵循程序化的标准。所谓的灵感，所谓的偶然的灵光闪现，往往只是对我们已知的经验而言是新奇的，对于全人类浩如烟海的文明而言则不值一提。我们的大部分创作都被人的总体创造力所淹没，其特殊性仅仅在于一模一样的组合没有被尝试过，同样的实践没有被尝试过。而人一旦发现自己所做的“创造性工作”根本上并没有其原来设想的那种独创性，同样也不免感到忧虑。也因此，AI的出现只是放大了人对自身创造力的怀疑。

谈到这里，我们离题一下。这里引出了一个关于创造力定性的棘手问题，而更麻烦的问题还在其后：我们所作的事情的创造性是一个主观认定，我们所认同的价值也是主观认定。我们会感觉到无聊，往往意味着我们的大脑认为我们在做无聊的，没有创造性，没有新意的事情。即使我们可以为了证明我们的创造力做一大堆论证，但是这个主观认定依然只是一种感觉，并没有因为我们的论证而改变其基础性质。而这个感觉时刻会被我们周围的环境，我们对周围环境的认知，甚至是各种精神药物和神经电刺激所影响。我们完全可以在药物或者电极的影响下始终感觉自己在过充实的生活，在过有创造力的生活，即使我们自己什么都没做。哪怕是常见的尼古丁都足以引起这种反应，难怪烟草被人广泛使用以抵御自己生活中的枯燥乏味。问题在于，我们很多时候都是依赖于这种主观感觉来行动，即使这种主观感觉并没有任何实际证据支撑。而实际证据要么加强我们的信念，要么削弱甚至摧垮我们的信念。

我们创作的时候，如果没有那种“我在创造新事物”，“我在做一件不仅对我自己，而且对他人也有意义的事情”的感觉的话，就很容易陷入空虚和无聊之中。但是即使我通过实践不断地加强这种感觉，也并不意味着我获得了真正独特的，前人未曾发觉的创造力，更不意味着我做的事情获得了普遍的认可，而只是在“接近人类总体创造力的边界”的路上越走越远。真正突破这一边界的人总是少数，他们往往花费了数十年的努力，或者是依赖于前沿观念，借自己的才能走到前人未及之处。大多数人只是在从事一种复现前人创造的经验过程。但是，如果他们在创造过程中意识到这一点，或许充实的感觉就不会那么强烈。而这里就体现出一个违反常识的事情，有时候对周围和自己客观的认知并不会推动自己前进，反而是需要大量主观的自信和自恋才能让自己在某一领域走下去，而这一前进的动机本身就和任何的客观性无关。许多世人看来颇有成就的人，其实也很可能是天生乐观的盲目自信者，只不过运气和能力都在他们那边，他们的成就验证了他们自信的自我认知，而同样乐观且盲目自信者，没有成就，仅仅是泯然众人者也大有人在。这其中包含一个幸存者偏差的视差。也就是说，就创意的成就而言，乐观的主观信念是一个必要但不充分的条件。我们要么在保有乐观自信的同时保持经受挫折之后的恢复能力，要不然就要接受即使有信念有努力也一无所获的可能性。最好的情况下我们两者都有，这样为一个成熟的人生态度打下了基础。

当然也没有人创作的动机是纯粹依赖于“我要创作前人未及的，突破人类创造力边界”的信念来进行的。即使目标再诱人，如果不享受这个创作的过程（即使意识到很多时候是在重复前人的创造性劳动），也无法进行下去。进行一种实践的动力，既包括在重复劳动中确认自己已经熟练掌握某种技巧的成就感，也包括对创造出新事物的期待。而当代人正在流失这两种感觉。的确，从事所谓创意性工作的人越来越多，可是创意性工作本身就开始越来越被质疑。AI的诞生加强了这种不安感，不仅是因为在当前经济体制下，许多创意性的工作会直接以降本增效为由被AI接管，而且也因为AI的迅速而博学的能力削弱了人们进行创造性实践的动力。AI的诞生越来越让普通人也意识到，创造出“仅仅是看上去有新意”的事物有多简单，而创造出真的独一无二的事物有多难。这两者的认知差距加大让许多人望而却步，但是即使AI尚未存在的年代，普通的创意和突破性的创意之间的巨大鸿沟也一直是一个苦涩的事实。

从另一个视角来看，如果我们不再认为所谓的“独一无二”的创作和普通创作有根本性的差别，那事情也会变化。秉持一种相对主义的观念，我们将创造的独特性视为量化的，基于和文化中其他要素相比较才有意义的一种衡量，我们也会发现新的问题，这个问题是信息爆炸带来的。我之前的文章也讲过，过多的创作使得创作本身的相似性加强，独特性在慢慢消退。当AI可以快速地生成大量简单的“创意”的时候，这些简单创意本身就会经历通货膨胀从而大幅贬值，而那些更具独创性的创作会更显珍贵。这里也有一个审美与信息量的问题。随着阅历的增长，过去认为不可思议的概念和创作模式也被接纳为平常之物，从而产生了审美的钝化，审美者或许会经历麻木。这是因为我们的认知机制就是遵循相对主义原理的。更高的审美带来了更高的刺激阈值，当刺激阈值高到一定程度，我们可能又对周围充斥的大量庸常的符号感到厌倦，然而这一过程无穷无尽，如果不引入其他的实践要素，麻木是不可避免的。

从上述视角来看，AI的进步同时也在推动人类对其生活姿态的根本认知的偏移。AI对各种简单内容的大量生产让我们之中那些敏锐的人意识到，再去做这些事情，再去让我们自己相当有限的注意力和意识，去无休止地关注那些虚伪的“新奇之物”，只能让自己陷入信息自反馈的牢笼之中，即所谓的信息茧房中。我们在平台的内容经济中醉生梦死，受到算法推荐的不断刺激而渐渐麻木，这是因为它们并不保证能带给观众惊奇，一种从根本上令我们重新审视自己生活角度的那种惊奇。这种惊奇可谓是一种移位，它不仅改变了我们的视角，也将我们从平凡的生活元素的组合中拉出来，进入到陌生的感性之中。只不过，这样的感性本来就是稀有的，如今更是因为过量信息的淹没而无处可寻，这依赖于偶然的契机，如今却变成了一种危机。我们需要改变自己寻找自我的方法，我们需要往那个特殊的独一无二性之处进发，专注于那些能让我们成为能不断超越自己的存在的事物。

还有一种忧虑是关于自动化本身的。少量的自动化让我们感到舒适，但是过量的自动化会让人感觉生活有操作主义化之嫌。所谓操作主义，即一切力的，技巧的，有形的劳动（比如扫地，骑马，烹饪）被转化为手势，即触屏，按钮，开关，操纵杆，键盘，方向盘，通过操作另一种高度自治的机械来完成某种任务。我们的身体在演化上适应了大量的体力劳动，制造工具，搬运物资，长途奔袭，而进入普遍的操作主义，应该是第二次工业革命之后才有的现象。当我们通过越来越复杂的代理来完成我们想要做的事情，“我们想要做的事情”本身却盖过了逐渐被缩窄的实践，成了问题所在。缩减了其中的许多身体性的实践过程，我们的目标本身也在变得薄弱。这是因为目标和过程之间的这个身体性的交互本身就反馈给目标以意义。烹饪就是一种和食物的材质打交道的过程，它的香气，粘性，多孔，坚硬或柔软，光滑与粗糙，如果仅仅是将原材料放进烹饪机器里，烹饪的乐趣和成就显然是会减半的。同样，当我们想讲一个笑话而先求助于AI，就算一串复杂的指令输进去，AI输出意料之中的笑料，这也很难称得上是和我们自身更亲近的幽默。现代人的许多创作也变得越来越操作主义，只是几类风格，几种元素的近乎任意的组合，经由技术手段组合在一起，而不涉及任何的巧思，这样的作品显然是不那么亲近的。的确，它们很容易被理解和传播，但是失去巧思就像是汤失去了盐一样乏味。

什么是巧思呢？也许这个概念只可意会，难以言传。巧思不是技术，因为技术可以还原为不同纲领的嵌套叠加，是通过不同的部分组合实现更大的目标的操作。巧思也并不是灵感，因为所谓灵感也不意味着事物就是独特的，令人吃惊的。巧思是渗透在一个作品的精微之处的感受，是不断逃逸因此难以被阐释的，用鲍德里亚的说法，就是非编码的，与自身不断捉迷藏的东西。巧思在于将不服务于目的的奇妙元素加入到合目的性中，在于异质性给人的惊奇，在于即使是以人创作的逻辑也无法解释的那些事情。正是这些巧思给了人无尽的趣味。AI能生成出乎意料的东西，但是似乎现在还并不能生成巧思，因为它始终是忠实地试图服务某种目的的，服务用户输入的指令，服务其提供的感性和抽象材料，将其识别和转化。它没有被赋予更多的自由，也没有从涌现的秩序中展现出那种自由的征兆。人们对AI感到乏味和淡淡的悲戚，或许也是因此。

但是我们还是要说，虽然让我们畏惧，让我们感到被理解，让我们略显哀伤，或是置于持续不断的焦虑之下，AI的存在都已经不可逆地改变了我们的生存境遇。这些情感，哪怕对于AI而言是无法理解的，因此是不对称的，但是我们对它的感觉是实实在在而普遍的。AI在改变，我们也在改变，而当我们感到迷惑的时候，回顾一下我们自己对陌生的智能所产生的那些感情，会有一些新的收获，成为新的思想的出发点。