本次演讲发表于“21世纪的控制论”系列讲座暨论坛,2022年11月4日,文字版有删节。活动由广东时代美术馆媒介实验室与器道哲学与技术研究网络主办,汉雅精舍联合主办,许煜担任学术主持,吴建儒策划。讲座主页:
https://medialab.timesmuseum.org/en/lectures
今天我们将探讨不同文化背景下的控制论历史,以及对其普遍性的本地化探索。
控制论的历史是一个跨越了文化、政治和学科边界的历史。《控制论:或关于在动物和机器中控制和通讯的科学》,这个定义也是一本书名,该书出版于1948年,作者是麻省理工学院数学教授诺伯特·维纳(Norbert Wiener)。维纳的历史照片和文件陈列在麻省理工学院数学系的大厅里,这些历史资料的展厅离我的办公室不远。
维纳在控制论方面的工作借鉴了他对高射炮控制的战时研究。他设计并制造了一种防空预测器,这是一种依靠反馈运行的伺服机械装置,用于预测敌机的轨迹。该功能原来通常由人类舰炮手和神枪手执行,因此维纳的设备将“承担特定的人类功能”。该发明让维纳做了个意义深远的类比:即自动控制装置的操作、基于反馈的控制设备和人类有目的的行为之间的类比。1943年,维纳、生理学家阿图罗·罗森布鲁斯(Arturo Rosenblueth)和工程师朱利安·毕格罗(Julian Bigelow)联合发表了一篇文章,他们在文章中提出,有目的的人类行为受到反馈机制的支配,而伺服机制中也采用了相同的反馈机制。结合控制工程(例如,反馈)、心理学(目的)、哲学(目的论)和数学(外推,指从已知数据的孤点集合中构建新的数据方法)的术语,他们构建了一个既适用于人类行为也适用于机器操作的行为分类方案。
在其《控制论》一书中,维纳对这些想法进行了概括,并引入了一种新的“通用”语言,我称之为“赛博语言”。它将各种不同的人机隐喻联系在一起。跨越各类学科——计算、信息论、控制理论、神经生理学和社会学——控制论用相同的控制论术语来描述生物体、控制和通信设备以及人类社会——信息、反馈和控制等等。
穿越大西洋到欧洲,再到苏联、南美和其他地方,控制论多次以不同形式现身:它作为设计尖端武器的工具出现在不同的时间和地点,它是言论自由的理论基础,它是设计智能机器的方法,它是描述人脑功能的模型,它是跨学科的载体,它还是改革理论架构的工具,这些理论架构是广泛的生命和社会科学通过数学和计算建立的模型。它有时充满了强烈的意识形态信息,有时表现为所谓的政治中立。每次控制论跨越新的文化、政治或学科边界时,它的内涵都会受到质疑,并被赋予新的内涵。
有一个特别突出的例子,普世主义者在全球的控制论在地化运动时的一个愿景,是设计能够执行某些人类认知任务的计算机程序,通常被称为人工智能(AI)。人工智能的愿望是掌握思想的普适原理,以便在计算机中予以运用和实现。1984年,帕特里克·温斯顿(Patrick Winston)阐述了AI的研究目标:“人工智能激发了那些想要发现普适原理的人,所有智能信息处理器都必须开发利用这一原理。”与此同时,在苏联,一个新兴的人工智能社区制定了它的目标,这个目标听起来很耳熟——“了解人类如何思考,以及思考的机制是什么”。在铁幕的两边,人工智能研究都被理解为对人类思维的基本原理的探索。
美国和苏联的科学家都认为存在一种常规的、普遍的、与历史无关的人类思维机制。然而,由于这些科学家是来自不同文化的人,他们对人类思维有着独特的、文化上特定的直觉认知。他们视为普遍范畴的“人”,实际上是属于特定文化的人。因此,他们的人工智能模型反映了各自文化的特殊性。
任何社会的日常实践都基于普遍被接受的行为模式——被视为典型和正常的行为——以及处理日常情况的各种策略,即所谓的“常识”。约翰·麦卡锡(John McCarthy)有个很出名的说法,他曾将AI系统称为“有常识的程序”,暗示着人类思维普遍具有基础性的常识。然而,人类学家克利福德·格尔茨(Clifford Geertz)曾说过的,常识是“历史建构的,并且……服从于历史定义的判断标准。它会……因人而异。简单来说,它是一种文化系统。”格尔茨还告诫到,不要去“勾勒出一些[常识性的]逻辑结构,因为它是不存在的”。这就不幸地打破了麦卡锡说法中的基本前提。
日常实践充当了一种媒介,承载着不断交流的文化符号,并为任一特定群体塑造了文化词汇。对美国人来说,日常经历从阅读《纽约时报》到观看电视上的政治辩论,再到在超市中购买种类繁多的商品。苏联人的日常经历则完全不同。他们从不阅读《纽约时报》,从不观看政治辩论,或者在购买商品时对品牌犹豫不决。他们阅读《真理报》和地下文学,参加党代会,在食品店排队消费。在他们看来是典型和正常的东西,在美国人看来却是奇特和充满异域风情的,反过来也是一样。然而,即使常识不是普遍的,人工智能模型确实告诉我们一些东西——如果不是关于人类思维的基本原理,那么也许是关于常识的特定文化内涵。
文化影响不仅通过日常生活的典型行为模式和策略表现出来,还通过语言——通过我们所经历和运用的各种隐喻,包括对思想本身的思考。今天我将讨论在美国和苏联知识分子中流行的,受不同文化影响的隐喻,并探讨它们与特定人工智能系统的联系。我认为,美苏学者在开发人工智能时,采用了截然不同的方法,是有着深层次的文化因素在内的。在寻找思维和行为的一般原理时,人工智能专家实际上将自己的文化刻板印象带入到了他们所开发的模型中。
例如,我们来看看购物这种日常行为,美国消费者面临的主要问题是如何在琳琅满目的食品和商品中做出正确的(或说“健康的”)选择。做出正确选择的能力也是美国学术训练的重点内容。大学生从各种各样的课程中选择他们想上的课程。考试中最常见的选择题也是需要考生在多种可能性中选择一个正确答案。政治选举的选票上也会列出多名候选人。相比之下,苏联的大多数日常情况则不同,例如高等教育课程为每个专业规定了固定的科目和预设好顺序的课程,学生唯一的选择是在体育课上选择他们喜欢的运动,考试中的选择题很少见,相反它要求学生写出所有解题步骤,如果学生没有给出最佳解法(或只是解法与教科书不同),即使得出了正确答案,也会被扣分。最后,苏联的购物方式也给顾客带来了新的问题。他们的问题不在于该选择什么,而在于能买到什么。由于许多食品和家居用品短缺,人们只能从黑市上获得抢手的产品。一个普通的苏联公民必须创建一个独特的、广泛的私人社交圈,这个圈子由朋友、亲戚、亲戚的朋友和朋友的亲戚等组成,广泛撒网以便能买到想要的洗衣机或电视。
美苏学者发展的认知心理学理论反映了不同文化价值观下的选择和创造力。例如,美国认知心理学家杰罗姆·布鲁纳(Jerome Bruner)将概念获得描述为一个过程,其每一步“通常是在备选步骤之间做选择或决定。”布鲁纳的研究展示了心理学的“认知革命”,这与美国人工智能先驱赫伯特·西蒙和艾伦·纽厄尔的研究密切相关,他们将选择置于智力活动模型“启发式搜索”的核心。
然而,苏联心理学家安德烈·布拉什林斯基(Andrei Brushlinskii)则否认了这一观点,他不认为思考涉及了在预设的备选方案中进行选择。他认为,真正的思考必须产生一种新的选择:“实际的生动的思考,例如,解决任务或问题,是对最初未知的、尚不存在的解决方案进行预测。这一预测......使人们不再需要在备选解决方案中进行选择。”
苏联和美国的人工智能专家有时借鉴心理学理论,有时心理学家借鉴人工智能模型。然而,人工智能专家仍会习以为常地忽略心理学家的研究成果,认为知识应该从人工智能流向心理学,而不是从心理学流向人工智能。人工智能经常会和心理学达成一致,因为它们都依赖于相同的文化思维定势。
美国人工智能先驱之一赫伯特·西蒙(Herbert Simon)明确提到了日常经验,他认为智力活动的核心是一种选择行为:
我们没有人完全了解人类选择的总体特征,或者发生这种选择的环境的广泛特征。那么,我可以自由地将这种共同经验作为一种理论的假设来源加以调用,这一理论是关于对人和人类世界的探讨。
西蒙借鉴了广泛的数学理论,这些理论提供了各种形式的选择,而这些选择发生在分类明确、建构成熟的环境中——计量经济学、博弈论、运筹学、效用理论和统计决策理论——他的传记作者亨特·克劳瑟-海克(Hunter Crowther-Heyck)称之为“选择的科学”。所有这些理论都假设选择行为是自由和理性的:个体对其环境采取行动,但环境不会影响个体的目标或偏好。
西蒙还借鉴了另一套学科——社会学、社会心理学、人类学和政治学。相比之下,这些“控制科学”强调个体的可塑性和顺从性,受到群体和社会压力并受到社会环境的影响。控制科学的“管理人”似乎与选择科学的“经济人”格格不入。
西蒙利用选择科学和控制科学,发展了“有限理性”理论。人们在解决复杂问题的时候,可以将其简化为一组有限的备选方案并在其中进行合理选择。个人选择的组织化使理性决策成为可能。
西蒙在他1956年发表的论文《理性选择和环境的结构》中,使用迷宫来比喻他所介绍的数学模型,该模型描述了生物体如何满足需求的多样性,在分叉点上做出一系列理性选择,而这些选择基于不完整的信息。这种比喻性的描述十分贴切易懂。西蒙从他的个人经历推断到整个人类,将一系列理性选择视为一种“普遍”模型,一种生活哲学:
生活哲学肯定涉及一组原则。……原则可以集结成各种启发或试探法,以指导人们在生活的岔路口做出选择,如同在迷宫中保持正确的路线。……在本章中,我描述了自己的生活,也描述了我的个人生活哲学,但其实我也一直在描述每个人的生活。
在1950年代至1960年代,西蒙与艾伦·纽厄尔(Allen Newell)合作开发了“启发式搜索”法,该方法很快成为美国人工智能研究的主导范式。根据他们的模型,解决问题的过程包括在问题空间内找到从初始状态到目标状态的路径。这个空间看起来像一棵分枝的树或一个迷宫;过程的每一步,问题解决者都必须从选项中做出选择——每个选项都是从选择点发散出来的分支之一。在没有关于迷宫的完整信息的情况下,或者如果迷宫太大而无法进行可行的计算,纽厄尔和西蒙建议使用启发式方法——经验法则——帮助人们做出正确的选择。他们认为迷宫搜索是一种通用的智能模型,并认为他们的计算机程序“通用问题解决者”是一种通用的“人类解决问题的理论”。
随着西蒙和纽厄尔对人类行为的概念化变得越来越形式化,他们所借鉴的情境模型变得越来越受限制和规范化:从大型组织中工人的半独立决策到防空控制中心机器操作员的半自主行动,再到国际象棋手有限的出棋套路。在“启发式搜索”模型的各种计算机运行结果中——推导出“逻辑理论家”(可以自动运行推理的程序,也被称为史上首个人工智能程序),在屏幕底部逻辑理论家模型的图表,下棋程序和“普遍的”通用问题求解器,屏幕顶部是通用问题求解器的草图——纽厄尔和西蒙倾向于关注描述完整、明确、计算机友好的情况。
纽厄尔和西蒙重新定义了选择的问题:他们不再谈论“做出决定”,而是谈论“解决问题”。如果决策者可以考虑不同的目标,那么问题解决者就必须专注于指定的问题。决策变成了“一个没什么争议或政治性的过程,一个将‘处理器的时间’分配给不同任务的过程。现在,选择不再是关于要接受哪一组值的决定,而更多地是关于要处理哪组数据的决定。”政治被简化为技术:自由地控制和有目的地改变环境的想法变成了在迷宫中进行简化搜索的纯技术任务。
在其名为“讲述美国故事”的论文中,人类学家莉维亚·波兰尼(Livia Polanyi)在阐述文化“语法”时强调,“控制”是美国人生活中最重要的一项内容。日常对话中所描绘的“适当的人”是那些“能够充分控制世界以获得快乐和拥有权力”的人。相比之下,在苏联的情况下,你的社会环境不是你可以控制的东西。如果构建一种苏联文化语法,这种描述可能会被改写为“适当的人是那些能够充分摆脱世界的控制而获得幸福的人”。
计算机可以执行智能任务的想法在1950年代初期的苏联引发了强烈的争议。在偏执多疑的冷战背景下,来自西方的科技创新往往受到高度质疑。对于西方正在流行的“思维机器”的讨论,苏方的回应是通过媒体谴责这一想法,认为它既是一种技术威胁,也是对意识形态的颠覆。苏联记者斥责资本家另有隐情,认为他们幕后的动机是想用机器人代替罢工工人,并用“冷漠的怪物”代替拒绝轰炸平民的人类飞行员。就苏联哲学家而言,他们抨击“思维机器”的概念既是“理想主义的”,也就是将思想同大脑中的物质基础分离开来,而且是“机械主义的”,即将思维简化为计算机操作。苏联批评家将所有有争议的计算机应用归为“控制论”,并称该领域为“反动的、理想主义的伪科学”。尽管有明显的逻辑矛盾——控制论被描述成理想主义和机械主义、乌托邦和反乌托邦、技术官僚主义和悲观主义、伪科学和危险的军事侵略武器——但这场运动对苏联的研究产生了严重影响。由于媒体的狂热,搞“思维机器”的研究从意识形态上来讲变得不可接受,早期的苏联计算机应用仅限于科学计算。
然而,反控制论运动并没有削弱苏联科学家对可以执行智能任务的计算机系统的兴趣。苏联首批大型电子数字计算机都安装在国防研究机构中,这些机构相对不受意识形态的影响,也让他们的员工有权限接触到最新的西方出版物。早期苏联控制论和人工智能的拥护者主要来自这些机构。数学家阿列克谢·利亚普诺夫(Aleksei Liapunov)领导计算机编程科,该科室隶属于莫斯科苏联科学院的数学研究所应用数学部。该部门(1966年后,应用数学研究所)为苏联核武器和火箭项目进行数据运算。这些运算与在国防部第一计算机中心获得的结果进行了比对,计算机专家阿纳托利·基托夫(Anatolii Kitov)在那里负责研发。1955年,斯大林逝世后,基托夫和利亚普诺夫与核武器项目的主要数学家谢尔盖·索博列夫(Sergei Sobolev)合作,在《哲学问题》杂志上发表了一篇文章,公开驳斥了对控制论的意识形态指控,该文章立竿见影地使该领域的研究被合法化。
随着控制论运动的发展壮大,它把各种数学模型和计算机应用都纳入旗下,如“控制论生物学”、“控制论生理学”、“控制论语言学”、“控制论经济学”等许多其他领域。
上图的左上角是苏联电子数字计算机——MESM,它被用于国防计算。下面是阿列克谢·利亚普诺夫,他是苏联控制论的先驱之一,他正用教棍指着一个巨大的表格,上面概述了各种控制论应用。左下角是一张会面图片,图片左边是阿列克谢·利亚普诺夫,中间是诺伯特·维纳。1960年,诺伯特·维纳参加了在莫斯科举行的一场会议,并一举成名。大家可以在右上角看到在列宁的巨幅肖像旁边的维纳。党的*对计算机技术及其为社会主义经济开辟的前景产生了兴趣。
在右下角,大家会看到苏联*列昂尼德·勃列日涅夫正在查看一台连接了苏联计算机的打字设备,这是在1970年代。苏联公众对“思维机器”的态度开始朝着另一个方向摇摆。苏联媒体开始赞美计算机的智能,将其描述为解决任何问题的万能魔法工具。标题为《“思维”机器》和《近乎科幻》的文章如雨后春笋般涌现在报纸和流行杂志上。记者们很快驳斥了之前的意识形态批评,声称那些副作用只适用于资本主义社会:
如果在资本主义世界中,引入“会思考”的机器意味着增加失业率、剥削工人和恐惧未来,那么在社会主义社会中,通过将人们从艰苦、无趣的工作中解放出来,机器将使我们能够有机会来专注于一些崇高而快乐的东西——思考、创造,尤其是创造新的“思维”机器。
就这样,创造思维机器和人工智能在苏联被合法化。1961年苏联共产党新纲领宣布:“控制论和电子计算机及控制系统将广泛应用于制造业、建筑业和运输业的生产过程,它将被广泛应用于科学研究、规划设计、会计和管理。”苏联媒体开始称计算机为“共产主义机器”。
尽管媒体大肆宣传,但苏联政府却对支持人工智能研究不太感兴趣。控制论运动的领导者们不指望能实现人工智能,而只是试图将计算机塑造成一种高效的工具,而不是一个自主代理。苏联科学院控制论委员会主席兼工程师阿克塞尔·伯格海军上将公开宣称,电子计算机“将越来越多地为人类提供帮助,但永远不会取代人类,也永远不会思考。”计算机仍然供不应求,并且管理者们都不赞成计算机程序员试图转移宝贵的计算资源去琢磨那些和他们自身智能有关的问题。
苏联对人工智能的将信将疑体现在语言上。“思维机器”这个短语总是被放在引号中以强调它是一种比喻说法。“人工智能”这个词仍然存在争议,研究人员避免使用这个短语。他们更喜欢听起来比较中性的词汇,例如“控制心理学”、“信息过程研究”或“启发式编程”。
1964年,当数学家德米特里·波斯佩洛夫(Dmitrii Pospelov)和心理学家维尼亚明·普希金(Veniamin Pushkin)召集对人工智能感兴趣的计算机专家和心理学家在莫斯科动力工程学院举行常规座谈会时,他们将他们的领域命名为“仿心学(psychonics)”。仿心学团队直接挑战了西蒙-纽厄尔的思维模式,提出了另一种方法。
“仿心学”一词是通过类比仿生学形成的。仿生学专家希望在工程系统中模仿生物体的“设计”,而波斯佩洛夫和普希金则渴望利用心理学知识来构建智能计算机。普希金对棋手进行了多项眼球运动跟踪研究,并得出结论,每个棋手对棋盘上的棋子位置构建了不同的心理模型,而不是在预设的问题空间中寻找解决方案。他断言,人类问题空间最初并不是建构一棵树,寻找解决方案的过程涉及创建一个新的问题空间,而不是像西蒙-纽厄尔所提出的迷宫模型那样“修剪无用的分支”。
苏联人工智能专家不喜欢迷宫模型,不是因为它效率低下,而是因为它背离了他们的文化观念。即便不知道“通用问题求解器”的概念起源,他们也将其与迷宫搜索的“官僚机制”联系在一起。虽然有些人遵循纽厄尔和西蒙的逻辑并断言“人类通过详尽的搜索进行思考”,但许多其他人提出了另外的模型,例如,将思维看成一连串的联想。
普希金和波斯佩洛夫将思考概念化为对问题的反思和反映,而非一种探索。他们认为,对当前情况和目标的描述通常有不同的表述方式。例如,在国际象棋的情况下,初始位置就是棋盘上特定棋子的位置,而目标状态——将军——需要更高级别的描述,涉及无法移动被将死的国王。人类棋手必须能够在低级和高级描述之间来回穿梭,即构建和操纵各种情况的媒介模型。正如大家中间那张图看到的那样,对情况的描述有不同的层次。普希金和波斯佩洛夫认为,基本的智能程序是情境建模,而不是迷宫搜索:“在所有用于描述创造性思维的现有词语和概念中,最恰当、最合适的是俄语单词soobrazhenie(反思/想象)。......解决方案反映了情况,基于图像或元素模型。”
对于波斯佩洛夫和普希金来说,人类的创造力表现在抛弃旧的迷宫,重新将问题概念化,构建新的问题空间。例如,一个人无法用六根火柴构建四个等边三角形,如果他一直在平面上寻求解决方案的话。构建一个新的解决方案迷宫——即换到三维空间——才能使此问题得解。
虽然纽厄尔和西蒙从一个现成的问题结构开始,但普希金和波斯佩洛夫建议,构建问题是寻找解决方案的重要智能步骤。为情境建立一个充分的模型比强大的搜索算法更重要。普希金和波斯佩洛夫提出了一种“语义语言”,用于从各种普遍性层面对情境进行形式化描述,并开发了一种系统,以构建关系情境模型。波斯佩洛夫和他的团队在计算机系统中实施了这种方法,用于控制海港的装载操作和其他工业操作,它结合了技术和人力因素。
波斯佩洛夫和普希金对迷宫理论的批评与苏联文化中将选择视为对创造力的限制相呼应。对于苏联和东欧的知识分子来说,政府提供的、结构刻板的选择迷宫似乎有太多的限制。有些人,比如波斯佩洛夫和普希金,选择公然指出选择行为的局限性,并创造新的问题空间。
苏联知识分子制定了复杂的策略。最近对苏联知识分子的研究打破了人们从冷战以来形成的偏见,从事国防项目的数学家和计算机专家,作为万能之神“计算机”神庙中的祭司,他们创造了一片属于知识分子的自治领地,该领地是一个温度受控、访问受限,并安装有第一代庞大计算机的房间。数学家伊兹瑞尔·格尔凡德(Izrail Gelfand)和米哈伊尔·采特林(Mikhail Tsetlin)就职于搞国防研究的应用数学研究所,他们利用作为知识分子的自由特权从事中枢神经系统的研究。
1958年,格尔凡德和采特林组织了一场生理学领域中关于数学模型的非正式常规研讨会。神经生理学家传统上假设中枢神经系统内的各个节点通过复杂的互连系统协调它们的活动。然而,这个假设让数学家感到困惑:在一个大型系统中,连接节点的数量会增长得如此之快,会使任何数学模型都会变得过于复杂。相比之下,采特林和格尔凡德提出了一个模型,这个模型中的每个节点都将所有其他节点的活动视为一种环境变化。他们表明,单个节点不必直接作用于其他节点,而可以仅仅观察环境的变化并遵循简单的自适应算法,从而最大限度地减少其本身与环境的交互。这导致了系统作为一个整体做出有目的的行为,这里的目的指的是将系统与环境的交互最小化。在这个模型中,整个系统的有目的的行为不需要其子系统的高度复杂性。所有单体行为都非常简单:他们试图避免互动,而不是建立复杂的协调网络。格尔凡德和采特林将这种自适应机制称为“最少交互原则”:
子系统无时不刻地都在解决它自己“特殊的”、“个体化的”问题——即,它尽量减少与媒介的交互;因此,子系统的复杂度并不取决于整个系统的复杂度。......我们的数学模型允许我们(在一定程度上)想象神经中枢的相互作用,而不用去考虑复杂的链接系统及其协调活动。
有目的的行为之独特定义,即最小化系统与其环境之间的相互作用,显然源于苏联知识分子想要保持最大的思想自主权的愿望。采特林认为他的神经系统模型具有非个体化控制的优势:系统不需要告诉其中的每个节点它应该做什么;该系统利用调动自由在最常规的条件下进行自组织。1965年2月,在生理学会的一次演讲中,采特林明确提出了一个对比,即将自由劳动和强迫劳动相比,以突出自组织的优势:
囚犯劳工比自由人劳工要贵,尽管前者在吃穿上要差得多,并且两者的工作量差不多。关键不仅在于囚犯的效率较低,而且必须为囚犯提供食物、衣服并雇人监管。对于自由人来说,情况就不同了:……我的经理……不必考虑什么时候该给我换鞋或换床单,或者如何抚养我的孩子。
麻省理工学院的生物物理学家默里·伊登(Murray Eden)曾说过:“人们想知道,究竟是不是文化或社会差异的原因,导致了采特林选择通过‘权宜’行为来研究合作现象,而美国的博弈论侧重于参与者之间的竞争。”严格来说,采特林的模型并不符合社会主义者理想中的数学建模。它反映了知识分子在苏联系统中的特殊地位,“合作现象”源于个人努力摆脱环境或其他个体的控制。然而,伊登关于博弈论不同方法背后所带有的社会和文化根源的观点值得我们更为深入地探讨。
1926年,出生于匈牙利的美国数学家约翰·冯·诺依曼(John von Neumann)开发了一种公理形式化的两人零和博弈,这种博弈具有有限数量的“策略”(完整的游戏规则)。它基于一种西方的概念,即社会互动是一种竞争,一种以自我利益为中心、在理性计算的同时小心对手的竞争。
冯·诺依曼证明了最小最大值定理,断言存在优化的“混合”或随机策略,该策略将最大损失最小化并保证赢得“游戏的价值”。他认为最小最大值策略捕捉了人类理性的一些基本方面:“任何事件——给定了外部条件、参与者和参与情形(只要参与者可以按照自己的意愿行事)——都可以被视为一种策略游戏,因为它对参与者施加了影响。”
冯·诺伊曼的传记作者史蒂夫·海姆斯(Steve Heims)将冯·诺伊曼的形式主义追溯到了他的世界观,他认为世界充满了无情的竞争对手,他们将所有其他参与者视为狡猾的敌人:
他的性情受到他在匈牙利经历的严酷政治现实的影响。“经济博弈”的推荐风格,强调的是谨慎,是计算预期结果,所有这些功利主义的强调恰如其分地表达了资本主义社会的中产阶级的典型理想。
1944年,冯·诺依曼与合作伙伴、美籍奥地利裔经济学家奥斯卡·摩根斯坦(Oskar Morgenstern)一起扩展了博弈论的原始概念框架,以处理经济学问题,并就此合著了
《博弈论与经济行为》一书。他们明确挑战了新古典经济学所追捧的确定性决策,并将经济博弈的“解决方案”呈现为参与者之间可能的收益分配的概率“稳定集”。正如历史学家菲利普·米罗夫斯基(Philip Mirowski)所说,他们将混合策略视为“思想本身的随机性的表现”,并有效地将最小最大值策略转变为“抽象的理性的缩影”。米罗夫斯基进一步指出,冯·诺依曼和摩根斯坦相信博弈论可以“模拟任何对手的行为,因此可以作为理性的一般理论”,并且在他们的著作中写到“博弈论和人工智能之间的界限往往模糊不清。”
在冯·诺依曼和摩根斯坦所推崇的非决定论中,有一件事是保持不变的:游戏规则。固定游戏规则不仅可以在博弈论中推导出非常形式化的结果;它还是理性概念的支柱:世界太复杂,无法进行确定性分析,但它仍然遵循规则,因此随机配备的思维仍然可以计算出一组最佳策略。
美国国防分析家断言,“博弈论作为决策工具的意义在于它使得我们不必再去猜测对手的意图。”虽然在美国分析家看来,猜测似乎是理性解决问题的对立面,但它往往是聪明的苏联决策者的唯一选择。
关于科学理论有效性的辩论结果通常取决于讨论者的博弈能力。由于特定策略的奖励和惩罚具有不确定性,所以博弈变得复杂起来。
苏联社会博弈从根本上的不确定性反映在采特林的自动机集体博弈理论中。自动机是有限状态机的数学模型,它依据转移函数和当前输入来改变其状态。采特林将自动机解释为一种代理,它处于针对特定行为进行随机奖惩的环境中。与冯·诺依曼的经典博弈不同,采特林研究的博弈中,自动机面临着一个充满不确定性的世界。他写道:
值得注意的是,这里讨论的自动机博弈的出发点不同于博弈论中所接受的观点。实际上,后者通常假设博弈是由参与者先前已知的支付函数系统来决定的。......我们认为由有限自动机进行的博弈很有趣,没有关于博弈的先验信息,并且在博弈过程中为一个接一个的重复动作被动调整策略。
在采特林的博弈中,“参与者几乎没有关于博弈的信息。他们不知道参与者的数量,对任一特定时刻的情况也是毫不知情,他们甚至不知道自己实际上在参与何种类型的博弈。”采特林通俗地将他的模型,即在一个规则未知且不断变化的环境中运行的代理比作“大世界中的小动物”。他的朋友、控制论神经生理学家尼古拉斯·伯恩斯坦(Nicholas Bernstein)使用了一个类似的比喻来描述思维活动从根本上所具有的不确定性:“打个比方,我们可以说有机体不断地与它的环境进行博弈,一场没有明确规则的博弈,并且对方策划了哪些动作也不得而知。”
采特林发现,在不断变化的环境中,奖惩的概率随时间变化,最成功的是没有太多状态的自动机。换句话说,如果博弈规则不断变化,那么自动机对自身历史的记忆就毫无益处。环境越动态,自动机“记忆”的最佳深度就越短。
在他对集体“分配博弈”的研究中,采特林毫不掩饰地评论了那一时期个体的经济战略。首先,他想出了一种博弈,其中一组自动机通过选择不同的策略来竞争资源(奖励或收益)。他设计的自动机完全不知道不同策略的相对优势,但最终会通过对环境收益做出反应来确定最佳策略。然而,采特林表明,如果自动机参与苏式版本的博弈论,他们的平均收益可能会增加——这是一种有“公共基金”的博弈,在这种博弈中,所有个体自动机的收益和损失都被汇总到一起,然后再平均分配回给他们。这种模式的缺点是公共基金掩盖了个体贡献和收益之间的挂钩,因此对个体自动机的记忆能力提出了更高的要求。他总结说,人们可以“从公共基金程序中截取收益,一旦自动机的记忆达到了某种复杂程度”。“如果内存容量低于此阈值,则引入公共基金会降低平均收益。”
采特林对这种教条的意识形态进行了数学建模,计算了在具有公共基金的博弈中找到最佳策略所需的精确记忆力(“觉悟水平”)。采特林的同事将他的研究成果转化为人类思维和行为的基本原则。维克托·瓦尔沙夫斯基(Viktor Varshavskii)和德米特里·波斯佩洛夫将记忆力解释为衡量智力的一般标准。他们将一个人的“智力水平”与在博弈中找到最佳策略的能力联系起来,在博弈中,收益和损失与一个人的直接行动没有明确的联系,而是在更高的组织层次上产生的。而信奉自由主义的知识分子非常熟悉规则未知或不断变化的博弈概念。
有两个比喻可以很好地展示出美苏实施的人工智能系统所反映出的两国在思想和行为上的关键文化差异。迷宫般的生活——我们必须在迷宫中找到正确的道路——成为美国人工智能的核心隐喻。迷宫的比喻使人联想起了斯金纳(B.F. Skinner)的行为主义模式实验,即让老鼠跑T形迷宫,和美国用来表示“激烈竞争”的形象俗语“老鼠赛跑”。1950年,克劳德·香农(Claude Shannon)设计了一种机械老鼠,可以在迷宫中寻找金属“奶酪”。赫伯特·西蒙对管理行为的研究将老鼠跑迷宫作为一个典型案例:“人类决策的简化模型就如同一只小白鼠在心理学实验室的迷宫中找食物时所表现出来的行为模式。”西蒙坚信,一只知识和智力都有限的老鼠能更好地反映人类理性的局限性,它要好过假设一个神圣、全知和完美的理性:“我们不需要一个像上帝一样,而更需要一个像老鼠一样的选择者。”
对于苏联人工智能专家来说,决策的核心比喻不是像在固定的迷宫中搜索,而是像蝴蝶的飞行,通过随机气流绘制其飞行轨迹。苏联人工智能研究人员维克托·瓦尔沙夫斯基(Viktor Varshavskii)和德米特里·波斯佩洛夫(Dmitrii Pospelov)描述了一个模拟蝙蝠捕食飞蛾行为的系统。当蝙蝠离得太近,飞蛾飞不走时,飞蛾便会开始乱飞:
所谓的乱飞,是指一系列折翅迫降、急转弯、绕圈子和猛俯冲的动作。换句话说,飞蛾的乱飞轨迹使蝙蝠更难预测下一时刻它将出现在哪个位置。我们应该提到,在实验中,乱飞策略拯救飞蛾性命的成功率高达70%。
一只蝴蝶在混乱的生活中乱飞以试图逃离捕食者——这个形象太亲切了,这是对他们试图保持思维自主的生动写照。
美国和苏联的人工智能专家都在寻求普遍性原则——普遍的、永恒的思维和行为机制。然而,他们的概括都受到了其所处的文化背景的影响和制约。美国和苏联科学家所掌握的例子,实际上都是带有特定文化模式的社会组织和决策。当人们试图去掌握普遍性时,人工智能模型所给出的则恰恰相反——一种具有文化特殊性的模式。
在不知不觉中,科学研究经常带有民族特色。文化符号系统清晰地体现在科学思想中,就如同在文学或艺术中一样。在对人类思维的模拟中,人工智能系统真实地反映了理性机制和非理性模式、个人创造力和社会心理定势、人性和人文。