（来源：JUN IONEDA）
“ChatGPT 的小把戏如此令人印象深刻，以至于当我们看到这些词从它那里冒出来时，我们会本能地做同样的事，”她说。“它非常擅长模仿语言的形式。问题是，我们根本不擅长遇到语言的形式而不去想象它的其余部分。”
对于一些研究者来说，我们是否能理解其运作方式并不重要。Bubeck 过去研究大型语言模型是为了尝试弄清楚它们是如何工作的，但 GPT-4 改变了他的看法。“这些问题似乎不再那么相关了，”他说。“模型太大，太复杂，以至于我们不能指望打开它并理解里面真正发生的事情。”
但 Pavlick 像 Olah 一样，正努力做这件事。她的团队发现，模型似乎编码了物体之间的抽象关系，比如国家和首都之间的关系。通过研究一个大型语言模型，Pavlick 和她的同事们发现，它使用相同的编码映射法国到巴黎，波兰到华沙。我告诉她，这听起来几乎很聪明。“不，它实际上就是一个查找表，”她说。
但让 Pavlick 感到震惊的是，与 Blockhead 不同，模型自己学会了这个查找表。换句话说，LLM 自己发现巴黎对于法国就如同华沙对于波兰一样。但这展示了什么？自编码查找表而不是使用硬编码的查找表是智能的标志吗？我们该在哪里划清界限？
“基本上，问题在于行为是我们唯一知道如何可靠测量的东西，” Pavlick 说。“其他任何东西都需要理论上的承诺，而人们不喜欢不得不做出理论上的承诺，因为它承载了太多含义。”
并非所有人都这样。许多有影响力的科学家乐于做出理论上的承诺。例如，Hinton 坚持认为神经网络是你需要的一切来重现类似人类的智能。“深度学习将能够做一切，”他在 2020 年接受《麻省理工科技评论》采访时说。
这是一个 Hinton 似乎从一开始就坚持的信念。Sloman 记得当 Hinton 是他实验室的研究生时，两人曾发生过争执，他回忆说自己无法说服 Hinton 相信神经网络无法学习某些人类和其他某些动物似乎直观掌握的关键抽象概念，比如某事是否不可能。Sloman 说，我们可以直接看出什么时候某事被排除了。“尽管 Hinton 拥有杰出的智慧，但他似乎从未理解这一点。我不知道为什么，但有大量的神经网络研究者都有这个盲点。”
然后是 Marcus，他对神经网络的看法与 Hinton 截然相反。他的观点基于他所说的科学家对大脑的发现。
Marcus 指出，大脑并不是从零开始学习的白板——它们天生带有指导学习的固有结构和过程。他认为，这就是婴儿能学到目前最好的神经网络仍不能掌握的东西的原因。
“神经网络研究者手头有这个锤子，现在一切都变成了钉子，”Marcus 说。“他们想用学习来做所有的事，许多认知科学家会认为这不切实际且愚蠢。你不可能从零开始学习一切。”
不过，作为一名认知科学家，Marcus 对自己的观点同样确信。“如果真有人准确预测了当前的情况，我想我必须排在任何人名单的最前面，”他在前往欧洲演讲的 Uber 后座上告诉我。“我知道这听起来不太谦虚，但我确实有这样一个视角，如果你试图研究的是人工智能，这个视角就显得非常重要。”
鉴于他对该领域公开的批评，你或许会惊讶于 Marcus 仍然相信通用人工智能（AGI）即将来临。只是他认为当今对神经网络的执着是个错误。“我们可能还需要一两个或四个突破，”他说。“你和我可能活不到那么久，很抱歉这么说。但我认为这将在本世纪发生。也许我们有机会见证。”
炫彩之梦的力量
在以色列拉马特甘家中通过 Zoom 通话时，Dor Skuler 背后的某个类似小台灯的机器人随着我们的谈话时亮时灭。“你可以在我身后看到 ElliQ，”他说。Skuler 的公司 Intuition Robotics 为老年人设计这些设备，而 ElliQ 的设计——结合了亚马逊 Alexa 的部分特征和 R2-D2 的风格——明确表明它是一台计算机。Skuler 表示，如果有任何客户表现出对此有所混淆的迹象，公司就会收回这款设备。
ElliQ 没有脸，没有任何人类的形状。如果你问它关于体育的问题，它会开玩笑说自己没有手眼协调能力，因为它既没有手也没有眼睛。“我实在不明白，为什么行业里都在努力满足图灵测试，” Skuler 说，“为什么为了全人类的利益，我们要研发旨在欺骗我们的技术呢？”
相反，Skuler 的公司赌注于人们可以与明确呈现为机器的机器建立关系。“就像我们有能力与狗建立真实的关系一样，”他说，“狗给人们带来了很多快乐，提供了陪伴。人们爱他们的狗，但他们从不把它混淆成人。”
（来源：MIT TR）
ElliQ 的用户，很多都是八九十岁的老人，称这个机器人为一个实体或一种存在——有时甚至是一个室友。“他们能够为这种介于设备或电脑与有生命之物之间的关系创造一个空间，” Skuler 说。
然而，不管 ElliQ 的设计者多么努力地控制人们对这款设备的看法，他们都在与塑造了我们期望几十年的流行文化竞争。为什么我们如此执着于类人的人工智能？“因为我们很难想象其他的可能性，” Skuler 说（在我们的对话中，他确实一直用“她”来指代 ElliQ），“而且科技行业的许多人都是科幻迷。他们试图让自己的梦想成真。”
有多少开发者在成长过程中认为，构建一台智能机器是他们可能做的最酷的事情——如果不是最重要的事情？
不久之前，OpenAI 推出了新的语音控制版 ChatGPT，其声音听起来像 Scarlett Johansson（斯嘉丽约翰逊），之后包括 Altman 在内的许多人都指出了它与 Spike Jonze （斯派克琼斯） 2013 年的电影《她》之间的联系。
科幻小说共同创造了人工智能被理解为何物。正如 Cave 和 Dihal 在《想象人工智能》一书中所写：“人工智能在成为技术现象很久以前就已经是一种文化现象了。”
关于将人类重塑为机器的故事和神话已有数百年历史。Dihal 指出，人们对于人造人的梦想可能与他们对于飞行的梦想一样长久。她提到，希腊神话中的著名人物戴达罗斯，除了为自己和儿子伊卡洛斯建造了一对翅膀外，还建造了一个实质上是巨型青铜机器人的塔洛斯，它会向过往的海盗投掷石头。
“机器人”这个词来自 robota，这是捷克剧作家 Karel Čapek 在他的 1920 年戏剧《罗素姆的万能机器人》中创造的一个术语，意为“强制劳动”。Isaac Asimov（艾萨克·阿西莫夫）在其科幻作品中概述的“机器人学三大法则”，禁止机器伤害人类，而在像《终结者》这样的电影中，这些法则被反转，成为了对现实世界技术的普遍恐惧的经典参考点。2014 年的电影《机械姬》是对图灵测试的戏剧性演绎。去年的大片《造物主》设想了一个未来世界，在这个世界里，人工智能因引发核弹爆炸而被取缔，这一事件被某些末日论者至少视为一个可能的外部风险。
Cave 和 Dihal 讲述了另一部电影《超验骇客》（2014 年），在这部电影中，由 Johnny Depp（约翰尼·德普）饰演的一位人工智能专家将自己的意识上传到了电脑中，这一情节推动了元末日论者 Stephen Hawking（斯蒂芬·霍金）、物理学家 Max Tegmark（马克斯·泰格马克）以及人工智能研究员 Stuart Russell（斯图尔特·拉塞尔）提出的叙事。在电影首映周末发表在《赫芬顿邮报》上的一篇文章中，三人写道：“随着好莱坞大片《超验骇客》的上映……它带来了关于人类未来的冲突愿景，很容易将高度智能机器的概念视为纯粹的科幻小说。但这将是一个错误，可能是我们有史以来最大的错误。”
(来源：ALCON ENTERTAINMENT)
大约在同一时期，Tegmark 创立了未来生命研究所，其使命是研究和促进人工智能安全。电影中德普的搭档 Morgan Freeman（摩根·弗里曼）是该研究所董事会成员，而曾在电影中有客串的 Elon Musk 在第一年捐赠了1000万美元。对于 Cave 和 Dihal 来说，《超验骇客》是流行文化、学术研究、工业生产和“亿万富翁资助的未来塑造之战”之间多重纠葛的完美例证。
去年在 Altman 的世界巡回伦敦站，当被问及他在推特上所说“人工智能是世界一直想要的技术”是什么意思时，站在房间后面，面对着数百名听众，我听到他给出了自己的起源故事：“我小时候非常紧张，读了很多科幻小说，很多周五晚上都待在家里玩电脑。但我一直对人工智能很感兴趣，我觉得那会非常酷。”他上了大学，变得富有，并见证了神经网络变得越来越好。“这可能非常好，但也可能真的很糟糕。我们要怎么应对？”他回忆起 2015 年时的想法，“我最终创立了 OpenAI。”
为何你应该关心一群书呆子对 AI 的争论
好的，你已经明白了：没人能就人工智能是什么达成一致。但似乎每个人都同意的是，当前围绕 AI 的争论已远远超出了学术和科学范畴。政治和道德因素正在发挥作用，而这并没有帮助大家减少彼此认为对方错误的情况。
解开这个谜团很难。当某些道德观点涵盖了整个人类的未来，并将其锚定在一个无人能确切定义的技术上时，要想看清正在发生什么变得尤为困难。
但我们不能就此放弃。因为无论这项技术是什么，它即将到来，除非你与世隔绝，否则你将以这样或那样的形式使用它。而技术的形态，以及它解决和产生的问题，都将受到你刚刚读到的这类人的思想和动机的影响，尤其是那些拥有最大权力、最多资金和最响亮声音的人。
这让我想到了 TESCREALists。等等，别走！我知道，在这里引入另一个新概念似乎不公平。但要理解掌权者如何塑造他们构建的技术，以及他们如何向全球监管机构和立法者解释这些技术，你必须真正了解他们的思维方式。
Gebru 在离开谷歌后创建了分布式人工智能研究所，以及凯斯西储大学的哲学家和历史学家 Émile Torres（埃米尔·托雷斯），他们追踪了几个技术乌托邦信仰体系对硅谷的影响。二人认为，要理解 AI 当前的状况——为什么像谷歌 DeepMind 和 OpenAI 这样的公司正在竞相构建通用人工智能（AGI），以及为什么像 Tegmark 和 Hinton 这样的末日预言者警告即将到来的灾难——必须通过托雷斯所称的 TESCREAL 框架来审视这个领域。
这个笨拙的缩写词（发音为tes-cree-all）取代了一个更笨拙的标签列表：超人类主义、外展主义、奇点主义、宇宙主义、理性主义、有效利他主义和长期主义。关于这些世界观的许多内容（以及将会有的更多内容）已经被撰写，所以我在这里就不赘述了。（对于任何想要深入探索的人来说，这里充满了层层递进的兔子洞。选择你的领域，带上你的探险装备吧。）
这一系列相互重叠的思想观念对西方科技界中某种类型的天才思维极具吸引力。一些人预见到人类的永生，其他人则预测人类将殖民星辰。共同的信条是，一种全能的技术——无论是通用人工智能（AGI）还是超级智能，选边站队吧——不仅触手可及，而且不可避免。你可以在诸如 OpenAI 这样的前沿实验室里无处不在的拼命态度中看到这一点：如果我们不制造出 AGI，别人也会。
更重要的是，TESCREA 主义者认为 AGI 不仅能解决世界的问题，还能提升人类层次。“人工智能的发展和普及——远非我们应该害怕的风险——是我们对自己、对子女和对未来的一种道德义务，” Andreessen 去年在一篇备受剖析的宣言中写道。我多次被告知，AGI 是让世界变得更美好的途径——这是 DeepMind 的首席执行官和联合创始人 Demis Hassabis（戴米斯·哈萨比斯）、新成立的微软 AI 的首席执行官及 DeepMind 的另一位联合创始人Mustafa Suleyman、Sutskever、Altman 等人告诉我的。
但正如 Andreessen 所指出的，这是一种阴阳心态。技术乌托邦的反面就是技术地狱。如果你相信自己正在建设一种强大到足以解决世界上所有问题的技术，你很可能也相信它有可能完全出错的风险。当二月份在世界政府峰会上被问及什么让他夜不能寐时，阿尔特曼回答说：“都是科幻小说里的东西。”
这种紧张局势是 Hinton 在过去一年里不断强调的。这也是 Anthropic 等公司声称要解决的问题，是 Sutskever 在他的新实验室关注的焦点，也是他去年希望 OpenAI 内部特别团队专注的，直到在公司如何平衡风险与回报上的分歧导致该团队大多数成员离职。
当然，末日论也是宣传的一部分。（“声称你创造了某种超级智能的东西有利于销售数字，”迪哈尔说，“就像是，‘请有人阻止我这么好，这么强大吧。’”）但不论繁荣还是毁灭，这些人号称要解决的到底是什么问题？谁的问题？我们真的应该信任他们建造的东西以及他们向我们的*讲述的内容吗？
Gebru 和 Torres（以及其他一些人）坚决反对：不，我们不应该。他们对这些意识形态及其可能如何影响未来技术，特别是 AI 的发展持高度批评态度。从根本上讲，他们将这些世界观中几个以“改善”人类为共同焦点的观念与 20 世纪的种族优生运动联系起来。
他们认为，一个危险是，资源向这些意识形态要求的科技创新转移，从构建 AGI 到延长寿命再到殖民其他星球，最终将以数十亿非西方和非白人群体的利益为代价，使西方和白人受益。如果你的目光锁定在幻想的未来上，很容易忽视创新的当下成本，比如劳工剥削、种族和性别偏见的根深蒂固以及环境破坏。
Bender 反思这场通往 AGI 竞赛的牺牲时问道：“我们是否在试图建造某种对我们有用工具？”如果是这样，那是为谁建造的，我们如何测试它，它工作得有多好？“但如果我们要建造它的目的仅仅是为了能够说我们做到了，这不是我能支持的目标。这不是值得数十亿美元的目标。”
Bender 说，认识到 TESCREAL 意识形态之间的联系让她意识到这些辩论背后还有更多的东西。“与那些人的纠缠是——”她停顿了一下，“好吧，这里不仅仅只有学术思想。其中还捆绑着一种道德准则。”
当然，如果这样缺乏细微差别地阐述，听起来好像我们——作为社会，作为个人——并没有得到最好的交易。这一切听起来也很愚蠢。当 Gebru 去年在一次演讲中描述了 TESCREAL 组合的部分内容时，她的听众笑了。也的确很少有人会认同自己是这些思想流派的忠实信徒，至少在极端意义上不会。
但如果我们不了解那些构建这项技术的人是如何看待它的，我们又怎么能决定我们要达成什么样的协议呢？我们决定使用哪些应用程序，我们想向哪个聊天机器人提供个人信息，我们在社区支持哪些数据中心，我们想投票给哪些政治家？
过去常常是这样：世界上有一个问题，我们就建造一些东西来解决它。而现在，一切都颠倒了：目标似乎是建造一台能做所有事情的机器，跳过在找到解决方案前缓慢而艰难地识别问题的工作。
正如 Gebru 在那次演讲中所说，“一台能解决所有问题的机器：如果这都不是魔法，那它是什么呢？”
语义，语义……还是语义？
当直截了当地问及什么是人工智能时，很多人会回避这个问题。Suleyman 不是这样。四月份，微软 AI 的首席执行官站在 TED 的舞台上，告诉观众他对六岁侄子提出同样问题时的回答。Suleyman 解释说，他能给出的最佳答案是，人工智能是“一种新型的数字物种”——一种如此普遍、如此强大的技术，以至于称其为工具已不再能概括它能为我们做什么。
“按照目前的发展轨迹，我们正走向某种我们都难以描述的出现，而我们无法控制我们不理解的事物，”他说，“因此，比喻、心智模型、名称——这些都至关重要，只有这样我们才能在最大限度利用人工智能的同时限制其潜在的负面影响。”
