首页 > 文章

模仿与存在:一个人文研究者对当代AI“挑战”的业余观察

来源:日刻  时间:2017-01-05 14:22:54

​作者 | 姚云帆

姚云帆,北京外国语大学文学博士,就职于上海师范大学比较文学专业。研究方向为西方文论和文化研究,特别致力于西方二十世纪德法文论和拉丁语文论研究。


一、对图灵测试的倒置式分析

其实,所有对战胜李世石的机器惊恐、惊羡或赞叹的人,都不妨问问AlphaGo :“你知道你在下围棋吗?”显然,这台机器并未设计这样的问答程序,因此,它并不能输出某个哪怕是劣质的答案。有些学者仍然会说,这并非用来完成图灵测试的智能机器,若是将它的计算能力和学习能力迁移到解决图灵测试的相关领域,则会产生无比重大的突破。但是,这个问题最大的目标,并非指向机器,而是指向下棋者:“你知道你在下围棋吗?”

我们并不试图将这样一个问题引向某种人类优越论的陈词滥调。相反,这个问题像一把考古学家挖出的上古名剑,它成色消褪,却锋刃犹在。其实,图灵测试并不能避免如下问题——即便机器对人的问题所进行的所有回答已经足够“以假乱真”,那么我们是不是真的可以说这个机器人已经具有与人一样的智能?不,也许,如果我们足够机智或者足够愚蠢,我们是不是可以颠倒这样一个问题的实质:进化了那么久,我们是不是和组成“机器”的所有要素的总和一样获得全新的智力可能性?接着,我们会被问到:“你知道自己在说什么吗?”

其实,我们是否并不那么清楚自己在说什么?从日常经验和许多心理学研究中,我们都能清楚看到这一点。我们经常发现,许多幼儿在学习数数字时,已经会说从“1”到“10”的所有数字,却并不能真正的计数。也有些小孩,能将并未谋面的亲属照片和“妈妈”这个词语建立某种“对等”的关联,当照片中的人从短发“变成”长发,红衣服“变成”绿衣服的时候,他/ 她依然会爆发出雷鸣般的哭声。这些日常经验说明,包括语言在内的一切符号系统与感知结构和思维结构之间,并不存在一种直接的连续性。早在20 世纪的早期,维果茨基(Lev Semenovich Vygotsky)的相关研究已经证明,语言和思维之间不是一种透明的被表征/ 表征关系,而是处在不断的对峙、互动和影响过程中的复杂关系。而这一看法并未被实验心理学、脑神经科学等学说的全新发展彻底扫进了历史的故纸堆,相反赢得了大量社会心理学实验的支持。而我们将这一经验—心理学看法推而广之的结论,足以支持一个非常有趣的结果:也许我们也是一台图灵机。

这一点对人类自信的打击似乎是巨大的。在最近国内一篇自信满满的文章中,一位青年学者凭借其渊博的科幻——文学知识,成就了一个对人类战胜人工智能的自信心具有巨大鸡血作用的命题:人类区别于机器的巨大特点,在于人类可以创作文学作品。于是,为了致敬她的观点,我准备引用一位当代诗人的诗:

这时候

一只鸡走过来

说我很难过

鸡很难过

​我也很难过

​这位诗人就是被许多伟大当代诗人和文艺评论家“赶出”当代诗坛的乌青。我并不试图在此评价他的文学地位和诗歌的价值,而只是指出,这首诗恰恰从“人鸡对话”的场景,重置了图灵测试中的“人机对话”的实质。

在这首诗中,首先,“鸡”这样的一个名称是作者作为语言的使用者用来指代某个对象的符号,而“我”这个名称也同样是一个类似的符号。这时候,“鸡”以“走”这样一种方式,向“我”移动,然后说出了“我很难过”这句话。这时候,“我”回以“我也很难过”。看起来,这是一篇小学生都会写的东西,但是由于抽取了大量铺垫,这首诗实际上挑战了我们对“艺术”“诗歌”等观念的根本规范的某种认识。

首先,“鸡”看似指代某种动物中的一个。但是这只“鸡”“走过来”了,这个“走”字背后包含着难以离析的“自然涵义”和“文化涵义”。一方面,“走”指某种物体的移动,但是,这种物体必然是接近于“人”这样一个至今为止接近万物中心的生物才能拥有的移动方式。虽然我们会用“飞沙走石”这个成语,但大多数人不太会用“石头走过来了”这种说法。其次,即便是我们自认为接近我们的动物,我们通常愿意用“爬”“蹿”“跳”等方式来描述他们的移动方式。只有涉禽、灵长目和家禽中的两足动物,在现代汉语中,才会用“走”这样一个词来描述它们的移动。可是,作为“鸡”的某种物,居然向特定的“我”走了过来,这似乎是一个比较惊奇的事情。

接下来的事情更为惊奇,“鸡”说了一句“我很难过”,这似乎是动物说人话吗?我们先不要匆忙下结论,而是关注于另外一件事情:如果对照图灵测试,我们发现,说话方并不是习惯以“我”这个第一人称说话的“人”,而是“鸡”。换句话说,我们似乎可以看到一个奇怪的场景,不是我们在对物进行图灵测试,而是我们作为一个物,被“鸡”进行图灵测试。

突然,测试到这里戛然而止,“鸡”对“我”的智商水平是否满意?“鸡”有没有继续和我们谈笑风生?我们的智商是不是可以做及格的“鸡器”,而不被“鸡”所识破呢?诗歌的作者没有回答。但是,这样戛然而止,引发了一个全新的问题:作为“文学”的语言符号复合体,是不是能导致人类拥有超越“机器”的独特创造力呢?一首“烂诗”的力量足以消解对这一问题的独断论主张,但却不仅仅停步于消解,这首诗所指向的更大的问题在于:我们的智能结构,到底奠基于某种“看起来像”的行为操作,还是某种区分于“他者”的独特“本质能力”呢?

我们接着从当代美国学术界一个重要的“索尔卡事件”来谈我们的看法。1996 年,著名的《社会文本》(Social Text),接受了一篇名为《超越界线:走向量子引力的超形式的解释学》(“Transgressing the Boundaries: Toward a Transformative Hermeneuticsof Quantum Gravity”)的论文,而该刊所有主编居然在没有发现文章蕴含的所有基本错误的前提下,认为这篇文章颇有学术价值,并拟行刊登。而这篇文章的炮制者索尔卡,恰恰是利用人文学者对科学知识的不了解,通过“钓鱼执法”来揭开“后现代主义”标签下许多不学无术者的画皮。“索尔卡事件”造就了一场当代美国学界的“科玄论战”。而最为有趣的地方在于,索尔卡炮制论文的方式,便是一场成功的“准图灵测试”:通过模仿某些知识团体表述方式,最终被他们辨识为一篇合格甚至优秀的“学术论文”。而这篇论文是否再现了某种“实在”,在信息掌握不够的前提下,却成为了这些优秀学者完全无法判断的问题。换句话说,正如塞尔在“中文屋”(Chinese Room)猜想中所假设的那样:只要信息足够多,对某种输入/ 输出方式的修正,可以通过不断的模仿性的试错操作来加以完善,而这些操作又会转化为信息,如此不断累积,计算机总有一天会越来越像人。总有一天,它们不仅会看起来像人,而且我们会变成“机器”,接受它们的哺育和提高。正如那只走来的“鸡”对“我”这台“机器”所进行的测试那样。

但妙处在于,即便按照图灵机的思路,智能机器在处理某些问题的能力上远高于人类,它们和人类一样都必须面对一个巨大的黑洞:“你知道你在说(做)什么吗?”AlphaGo 会下棋,甚至能下出很多并非只为赢而是具有“美学”意味的高招,但是,他还不能回答“知道自己在干吗”的问题。在国际象棋人机对战史上,曾经有个机器棋手真的“杀掉了”人类棋手,但事后查明,这是一场电子雾引起的机器故障的结果。换句话说,尽管在模拟规范和利用规范的过程中,智能机器逐渐会超过人类。但是,好像他们暂时还真不会想,这些规范的目标是什么,和实现这些目标对自己有什么意义。但是,这是作为人类的我们的幸运吗?

二、计算的本质

20 世纪30 年代末,在剑桥大学的“数学基础”课上,维特根斯坦与图灵对于计算问题进行了思考。这段思考不仅对于人工智能的本质问题具有重大意义,也对我们思考当代AI(Artificial Intelligence,人工智能)发展与思想史的关系有着一种极大的启发。维特根斯坦特别强调,如果不在“什么是计算?”这一问题有答案之前来处理计算问题,就不可能找到数学计算的核心基础。与维特根斯坦执着于通过情景分析来澄清“计算”是什么相比,图灵引入了对“计算”概念高度简化的定义,这样的“计算”概念包含三个要素:结果,信息和规则。其中,规则是指计算者利用既定的输入数据,来达到某一输出结果的限制条件;信息指已有的输入数据;结果是指在信息和规则的共同作用下的过程得出,并可以确定为真的结果。后来,图灵用这样一种模式,构造并奠定了图灵机的基础,并以此作为图灵测试定义人工智能的标准。

从维特根斯坦和图灵的矛盾中,我们发现了一个非常重要的问题。图灵并没有定义AI 是什么,而是指出了,通过什么过程可以造成像“人的智能”的东西。而维特根斯坦对图灵的反驳,逐步被当作无关痛痒的怀疑主义论调,逐步被置之一旁。但是,维特根斯坦确实发现了一种不同于图灵的智能实现方式。例如,在思考“等式”的本质时,他举例:一个天平一侧有两个物体,另一侧先有四个物体,两侧不平衡;这时候在一侧加三个物体,两侧平衡,我们能不能把这种现象记作“2+3=4”?而这样一种对输入——输出过程的描述,是不是叫作“计算”?

这种看似强词夺理的胡搅蛮缠,实际上确实戳中了强AI 对“人工智能”理解的理论前提方面的问题:整个人工智能得以不断完善的前提,在于必须先有对“计算”本质的预先界定,而计算机本身尚无法对这个问题进行自我界定。因此,维特根斯坦在读过图灵的《论数字计算在判定问题中的作用》后,给出了如下的评语:“这是人在计算。”简单来讲,这句话的涵义是:看起来自己在完成任务的计算机,必须依赖人给出什么是计算,才能完善自己的计算任务。

这时候,我们可以重新回到现实场景之中。我们发现,AlphaGo 给人的震惊在于,他好像比一般的人更了解围棋是什么,以至于许多专业围棋高手都没有算出来的后手,居然被他算出。显然,这是因为计算机专家更注意以定式和几何形态为判定基础,并引入机器学习系统的结果。但是,AlphaGo 这样一台超级计算机的AI 模式,并没有超出图灵机的方式,因为他所依赖的所有计算规则是人类输入的,他从来没有进行过最为反常的对弈行为:例如,趁对弈者不注意,偷偷把白子换成黑子,这种初下棋的儿童都会做的违规行为,他都不会做。相反,他的AI 恰恰是利用已经得到的大量对局信息,对一个真正的“棋手”进行模仿。这种模仿太过精确,而人类棋手们,由于计算速度的局限和非计算因素的干扰,便远远落后于这样一个“模仿者”,因此也远远无法成为“真正的棋手”。

那么,是不是由此可以认为,这样一种人工智能并不足以成为人的威胁呢?当我们仔细了解模仿和真实之间,几乎悬于一线的差别所在时,我们并不能由此松一口气。

三、力比多经济学和技术艺术:危机的发生和智人的未来

有些人将人工智能的未来想象为毁灭人类的机器人军团,这也许存在于遥远的未来。但是,未来的发生并非只有一种可能性,我们对于人工智能的本质,恰恰不能简单地从机器人—人的对立来进行把握。相反,正如上文所述,迄今为止的人工智能,都没有超脱“看起来像人”这一范畴。

与之相反,AI 能力的扩大,实际上反过来倒转了人类思考自身智能的方式:如果沿着维特根斯坦的思考,我们就会发现,我们与机器一样并不知道我们怎么样就决定了某种规则是“计算”规则,而另一种规则不是“计算”规则,我们也许也是一台人工智能机器。如果更为激进地说,我们甚至要机器——这种客观世界经由我们的双手赋予我们的东西,来对我们进行“图灵测试”。换句话说,人模仿机器的时候到了。

这对于那些并不恪守教条主义,而对人类历史传统怀有宽广胸襟的人文社科研究者们,并非一场“精神的灾难”,而是一场充满危机的赌博和冒险。我们必须注意到,模仿论并非是一种基于相似性的照搬行为,相反,亚里士多德在《诗学》中已经提出,人在模仿过程中,并不仅仅关注这些行动是否相似于被模仿的行动,而且关心这样一种模仿行动给人带来的快感。这种快感直接导致了人对自身所具备的智力和行动力的肯定,因此,模仿包含了三个维度:一、将异己于人类自身的因素转化为人自身的要素;二、将人自身的行为方式和思维方式投射到外在行动之中,从而改变这一行动,使之“人化”;三、再构成和创新,将维度一和维度二相结合,造就人的一种全新生活方式。这样一种理解方式,在当代文化理论和人类学方法论中,产生了巨大的影响。人类学家迈克尔·陶西格(Micheal Taussig)在《模仿与他异性》(全名为《模仿与他异性:“感觉”的特殊史》Mimesis and Alterity: A Particular History of Senses)。特别强调,正是通过对相异之物的学习,人类社会的感知逻辑和生活方式才能不断突破既有的成见和界限,走向更为丰富而有力量的未来。因此,当人类制造出原理看似清晰,但其运行方式高度依赖于异质于人类的自然要素(如电子运动的逻辑)的智能时,我们单纯将之看作人类的奴仆和朋友,还是看作一种可以在模仿中与之互动的共同体成员,不仅决定了我们如何理解人工智能,而且会迫使我们在模仿中更好地理解、提高和创造我们的智能。

许多研究“硬科学”问题的自然科学理论家和科学哲学家也许对此不以为然。但多年的科学发展已经让机器和人工智能逐步嵌入了我们的社会和文化领域,以至于我们不得不通过模仿这样一个艺术和社会学——人类学概念来面对这一问题。在法国《诸众》杂志2015 年第1 期中,《机器人:摇摆于生机勃勃和消极无为之间》的作者艾曼纽·格里莫(Emmanuel Grimaud)特别以性爱机器人为例,来思考人与机器的关系,他尖锐地指出,这样一种人形机器人是对人最本质的一种生活方式的模仿。尽管它应用的是一种相对简单的AI 指令,却直接导致人类被迫接受机器有可能具有一种“准人格”(quasi-personne)状态。这种看法并不怪异,因为如果仅仅把性爱机器人制作成某种“物”,不仅无法真正有效地激发人真正的性愉悦(后者并非单纯的物理—生理现象,而是蕴含着文化社会机制的生理现象),而且会令使用者对自身“人性”产生怀疑,从而引发更为复杂的伦理——实践问题。而哈拉维(Donna J. Haraway)的《类人猿、赛博格和女人:自然和重塑》则以灵长类实验为范本,对人类和机器互动装置背后的“物化”倾向,提出了进一步的批判:那些被“代母”装置“抚育”和“陪伴”的灵长类幼体,完全成为可控实验的操作结果,其行动方式和情感行为是虚假而单维度的,排斥了一切丰富的可能性。因此我们发现,当理解人工智能和当代社会的互动关系时,我们最为重要的方式,并非将人置于现代社会系统的中心,从而构想出一套布鲁门伯格(Hans Blumenberg)所谓的“世俗化神学”(Theologie des Sakulesirung):人们只有超越、制服和超越AI 装置,捍卫自己的优越性这一条道路。相反,在模仿机器的过程中,人和机器之间的赌赛和挑战,将会成为人类通向莫测未来的道路。

而这并非一条坦途,其危险并非人工智能强大的计算能力,而是人自身在模仿机器的过程中所产生的模仿能力的耗竭。斯蒂格勒的许多论断对我们颇有振聋发聩的启发作用:首先,他指出,当代人类社会的问题,并不在于人工智能通过超人的智力剥夺人类的世界主导权,而在于现代技术的发展过程中,人类受制于机器式的思维方式,逐步丧失了对创造全新生活方式的渴望。这种渴望最终被社会系统所计算和安排,形成了一种力比多经济学(libidinal economy)。这样一种抽象的表述很容易找到现实的对应物,例如,在当代两性关系中,人们的追求不同于前现代社会于对习俗形式(婚姻礼法)的追求,也不同于现代社会通过超利益计算来追逐绝对自由自主的渴望(小资产阶级浪漫主义),而是渴望通过理性计算自己的快乐原则和安全原则之间的配置,来达到自己的目的,这最终让社会机器编码和捕获了欲望。由此我们发现,现代社会中,促进两性快感的机器越多(服装设计中的“性感”元素、机器化的性爱工具、网络征婚交友平台、两性生活指南),而实现人有意义生活方式的可能性越少。由此,人的饮食、健康、生理欲望、友爱乃至死亡,都会被具有高度再生产能力的力比多经济学所编码和计算,而人追逐自身超越性的可能越小。

正是在这样一种状态下,“人工智能恐惧”出现了,人无法重新结构自己,重新超越自己,而以AI 为代表的现代社会结构提供给人们的越多。因此,在人与机器相互模仿的赌赛过程中,机器像人的速度将远远快于人类像机器的速度。而人类担心的地方并不在于人是不是会被机器消灭殆尽,而是终有一天,一位打扮入时的机器人美女,对着一个戴眼镜的“码农”背诵了一段《神曲》,轻柔一笑,莺声问道:“您觉得我的意大利语发音如何?”而对方回以长长的沉默。

因此,相对于争执人和机器谁更优越,或是担心人被机器替代的问题,不如询问如下三个问题——这也许是我们人文学者理解人工智能社会效应的一系列全新起点——一、我们对待机器的态度是“万物灵长式”的主人态度,还是接纳其作为我们自然、社会,甚至社会的平等一员的问题,这方面的伦理——哲学思考,最终会使19 世纪种族主义时代生成的“阿西莫夫三定律”最终瓦解;二、我们是应该严肃面对人之为人的历史性,还是将人继续看作现代经济学意义上的无历史、无极限、无心肝的“人性化”的空洞行动者,正确处理这一问题将使我们对我们自身的伙伴、我们不同成员之间的历史(甚至其历史之恶行)保持警戒和敬畏,并成为与机器人竞赛中,能够赋予他们的唯一资本;三、我们究竟如何坦然面对人对人的压迫和蒙蔽,压迫、蒙蔽人的人和机制在阻止我们对上述两个问题的追问和回答。正是这些人和机制而不是AlphaGo 造就了人文科学沾染了“无用之学”的面目,从而阻碍人们直面我们在现实中的虚弱和强大,并将社会治理结构中的问题(失业、恶性的等级制、贫困和战争)转化为“人工智能压迫人类”的幻象?

这便是我眼中的“人工智能危机”。


​本文选自《此刻》 2016年夏季号

「活字文化」策划​

▼▼▼

官方微信ID:reknow24