元胞自动机,医疗机器人电气原理图

首页 > 经验 > 作者:YD1662023-03-16 19:16:59

每个节点用其相应的布尔函数同步更新:

元胞自动机,医疗机器人电气原理图(9)

。经典的同步RBN的状态数目有限,并且在一定数目的时间步之后,将落入固定或循环吸引子。

Kauffman研究了三大类遗传网络的周期和扰动:(1)全连通 =,(2)= 1,(3)= 2。他得出结论,全连通网络(K=N)在生物学上是不可能的,=1级网络需要地球上任何生物都不具备的循环,=2级网络在生物学上是合理的。Kauffman认为,生物体中基因网络的参数是通过进化调整的,因此它们将在接近混沌边缘的关键阶段运行。更广泛地说,他的研究结果表明,混沌边缘的生物网络表现出稳定性、可进化性和信息处理效率,这与Conrad提出的权衡原则一致(Conrad,1989)。Derrida 和 Pomeau花了将近20年的时间,以及随后的在那个世纪末的许多其他人,才开始从更数学化的角度分析径向基神经网络(Derrida and Pomeau,1986)。

Kauffman在文章的结尾作了如下陈述:“由大的、随机组合的二进制元素组成的网络具有简单、稳定和有序的特性。大自然利用了这种可能的和可靠的系统,来创造进化和保护其后代”(Kaufman, 1969)。

让我们回顾一下:早期关于混沌边缘的工作主要集中在离散动力系统上,并提供了证据证明:在这种动力系统中复杂的动力学出现在某些相变附近, “依赖于处理信息的基本能力”(Langton,1990)。

故事继续之前,我们先来听一听批评的声音。

3. 批评的声音

Mitchell等人的文章总是被引作对混沌边缘的批评(Mitchell et al., 1993)。然而,事实并非如此。这些文章更像是对Packard的发现(Packard,1988)的具体批评,这些发现涉及统一的、一维的、同步的元胞自动机的进化、动力学和计算能力。Mitchell等人试图通过进行一组类似的实验来复现Packard的结果。不幸的是,Packard的论文遗漏了相当多的技术细节,这迫使Mitchell等人对几个参数做出了“合理”的假设。但遗憾的是,Mitchell等人根本无法重现Packard的结果:“我们的实验产生了完全不同的结果,我们认为对原始结果的解释是不正确的”(Mitchell et al., 1993)。虽然他们观察到更复杂的规则在演变,但这些规则似乎并不存在于混沌边缘。他们进一步指出“……我们不知道是什么原因造成我们的结果与原始实验结果之间的差异。”

Mitchell等人在他们的一般性讨论中明确指出,“我们给出的结果并没有反驳这个假设:计算能力与元胞自动机规则空间中的相变相关”。这一假设后来得到了一些作者的证实。

1995年,Gutowitz和Langton重新检查了是否存在混沌的边缘,以及演化是否能够引导系统到达混沌边缘(Gutowitz and Langton,1995)。他们认为,需要一种新的复杂性衡量标准来确定这些问题,并认为趋同时间是一个适当的指标。通过使用平均场方法,他们证明了:随着演化,元胞自动机规则确实变得越来越复杂,而且关键规则的平均收敛速度比非关键规则要慢。Kaneko和Suzuki(1994)以及Suzuki和Kaneko(1994)使用逻辑斯蒂图确定了混沌边缘,得出了类似的结果。他们还发现,在适当的条件下,演化过程确实会驱使一个系统走向混沌边缘。

1997年,Siper在他的书中报告说,他获得了支持Mitchell等人的结果(Siper,1997)。他使用自己的“元胞编程算法”进行实验,该算法依赖于局部适应性测量(与进化算法中的全局测量相反)。Siper发现的规则集中在= 0.5附近,大部分在0.45-0.55之间,这与Mitchell等人的研究结果一致。密度任务的值可能接近0.5。在他的实验中,更复杂的规则再次演化出来,但对于Packard有关混沌边缘的结果,人们存在分歧。

在结束本节时,我们再次强调Mitchell等人的文章是对Packard实验的批评,也是一次失败的尝试。他们的论点和发现完全依赖于统一的元胞自动机,而统一元胞自动机的规则是通过使用遗传算法进化而来的。这篇文章没有质疑混沌边缘的广泛存在,也没有质疑演化,或其他适应性反馈机制,可以推动系统走向混沌边缘。因此,引用这篇文章作为对混沌边缘的批评,就像它经常做的那样——是误导。例如,维基百科关于混沌边缘的文章确实指出,“然而,Melanie Mitchell和其他人对这一想法的普遍性和重要性提出了质疑”(Wikipedia,2022)。这是一个不准确的陈述,并且不反映Mitchell等人的结论。

事实上,在随后的一篇论文中,Mitchell等人(Mitchell et al.,1994)包含了一些额外的论点和观点,再次强调了“……我们的研究并不排除将来,在元胞自动机的背景下,有人能对“混沌边缘”一词作出严格而有用的定义。它们也不排除发现混沌边缘与元胞自动机的计算能力增强有关。最后,它们不排除自适应系统演化到这样的动态区域,以便利用那里固有的计算能力。”再早些时候,Crutchfield和Young就提供了大量证据(Crutchfield and Young ,1990)。

4. 混沌边缘如何准确定义?

到目前为止,我们还没有正式定义混沌边缘。现在让我们来谈谈这个问题。我们将探讨两种主要的方法来界定一般所认为的混沌边缘:(1)Derrida的模拟退火和(2)Lyapunov指数。

测量(通常很小的)局部扰动(又称“损伤”或噪声)在动力系统中的传播是一种确定系统处于何种状态的既定方式。为此,创建系统的两个副本,并在其中一个系统中引入一些扰动。然后随时间比较两个状态轨迹之间的距离:(1)当系统处于(确定性)混沌状态时,扰动会扩散;(2)如果系统处于有序(或“冻结”)区,扰动将消失;以及(3)如果系统处于混沌边缘的临界/复杂状态,则扰动将保持在恒定大小。因此,确定混沌边缘的主要问题是:扰动是消失、维持还是增长?或者换句话说,动力系统对初始条件的敏感度是多少?在临界阶段,即混沌边缘,扰动将在长时间和空间尺度上传播,既不衰减也不放大。

Kauffman在他1969年的论文中研究了扰动,并使用它们对随机布尔网络进行分类(Kauffman,1969)。1986年,Derrida和Pomeau提出了模拟退火法(AA),这是一种平均场方法(Derrida and Pomeau,1986),后来又有人进行了扩展,例如:(Solé and Luque, 1995, Luque and Solé, 1997)。Derrida和Pomeau的分析表明,在热力学极限下,即:当网络规模趋于无穷大时,可以精确确定临界点。对于Kauffman的随机网络,发现它们在稀疏临界连通度时表现出动态有序-无序转变。然而,在实际问题的应用中,热力学极限通常不是很重要。近期的工作更关注有限大小缩放,这既用于随机布尔网络(RBN),也用于随机阈值网络(RTN),可参见 (Rohlf and Bornholdt, 2002, Rämö et al., 2006, Samuelsson and Socolar, 2006, Lu and Teuscher, 2014, Ishii et al., 2019, Rohlf et al., 2007, Goudarzi et al., 2012) 。我们稍后将看到如何通过自组织实现随机布尔网络的关键连接。

李雅普诺夫指数测量动力系统(在相空间中的)两个轨迹之间的分离速率。因此,该指数能够测量不稳定程度,并确定混沌边缘。李雅普诺夫指数描述系统的短期行为,而最大李雅普诺夫指数(MLE)则描述系统的长期动态。一个正的(最大)李雅普诺夫指数表明系统对初始条件敏感,因此处于混沌状态。另一方面,如果<0,则系统是稳定的或有序的。如果一个动力系统的最大李雅普诺夫指数为0,那么它会被认为处于混沌的临界状态的。

李雅普诺夫指数也可以从诸如CAs和RBNs等离散系统中被导出,可参见 (Bagnoli et al., 1992, Luque and Solé, 2000)。值得指出的是,混沌理论的许多工作都是基于连续和无限空间的假设,我们在这里就不讨论了。

最后但也很重要的是,定义复杂性是什么又不是什么,这仍然是一个开放的,或者说至少是一个有争议的问题。Solé等人指出:“已经提出了几种(复杂性的)定义,它们都共有一个直观概念,即复杂性既不是完全有序的,也不是完全无序的” (Solé et al., 1996)。

5. 生命系统处于临界状态吗?

如上文所提到的, Kauffman是第一个宣称并证明:生命系统,特别是基因调控网络,是在有序与混沌之间的临界动力学机制中运行的(Kauffman,1969)。Kauffman的假设之一是,细胞类型对应于Kauffman 随机布尔网络中的状态循环吸引子。Kauffman比Packard更进一步,Packard认为他的元胞自动机规则是自然选择的结果。Kauffman的研究结果是:遗传调控网络的性质是内在动态过程的结果。

从那时起,有充分的证据表明:准静态非平衡态生命物质在接近或等于混沌边缘的某种临界状态下运行,而临界状态是在不断平衡之后出现的。直观上,这很有道理,因为生命和非生命系统在对环境作出反应时都表现出不同的相变 (Griffiths and Wheeler, 1970, Jacobs and Frenkel, 2017) 。

后文,我们将提到一些特定的刊物,以强调生命系统临界性的概念。

在Packard的混沌边缘论文发表后不久,Ito和Gunji提出了更多的证据,证明自组织作为一种进化过程,推动着生命系统走向混沌边缘。他们还假设他们的自组织临界性是Bak的自组织临界性的一种推广形式(Ito and Gunji, 1994)。

2005年,Shmulevich等人 (2005) 首次证明了“……HeLa细胞的基本遗传网络似乎在有序状态下或在有序与混沌的边界上运行,但似乎不是混沌的。”Kesseli和Yli-Harja提出了一种研究基因调控网络关键性的新方法:“该方法是第一次使用生物学测量数据,来量化细胞是否动态有序、临界或混沌的尝试之一” (Rämö et al., 2006)。Nykter et al. (2008) 使用了巨噬细胞的基因表达数据,发现其动力学至关重要。Hanel 等人 (2010) 表明,他们用作生物反应网络模型的极最小非线性(MNL)系统也是如此。

Torres-Sosa 等人 (2012) 讨论了:基因网络如何真正达到临界行为?这仍然是一个有点难以捉摸的开放性问题。他们提出了“……一种进化模型,其中临界性自然地从可进化性的两个基本组成之间的平衡涌现而出:突变下的表型保守和表型创新”“……我们的结果表明,扩展新表型(创新)与保留现有表型(保留)之间的这种相互作用,足以导致种群中所有网络向临界状态进化。”

虽然Mora和Bialek没有提到混沌边缘,但他们的文章有问道:“生命系统是否处于临界状态?” (Mora and Bialek, 2011)。他们讨论了,在广泛的生命系统中临界性的实验证据,包括蛋白质网络、神经网络和鸟群。“诱人的可能性是,许多系统并不深处于一个相或另一个相,而是在自然参数空间的临界表面附近保持平衡。”

今天,仍然有一个半开放的问题:生命系统究竟是如何达到临界状态的?因为临界状态往往是整个参数空间中的一个很小的区域(如果不是一个点的话)。大多数证据表明,这是一个反馈机制和平衡演化的组合 (Ulanowicz, 2002, Conrad, 1989) 。

6. 混沌边缘研究的全盛时期

Kauffman在60年代末开始了随机布尔网络的研究(Kauffman,1969),而理论分析的全盛时期直到新世纪初才开始。随机布尔网络足够简单可以形式化和分析,但又足够复杂饶有趣味,对许多研究人员来说是一个完美的游乐场。统计物理学的现代工具与新出现的无穷无尽的计算资源相结合,使该领域蓬勃发展了许多年。

物理学家一致都对小型系统感兴趣,如logistic映射,或自组织演化到混沌边缘 (Pierre and Hübler, 1994, Baym and Hübler, 2006, Melby et al., 2000)。此外,多年来,随机布尔网络也派生出许多新属性。例如,在Kc处,吸引子周期的相空间结构(Albert and Barabási, 2000),不同吸引子的数量(Samuelsson and Troein, 2003),混沌吸引子的分布是复杂的(Bastolla and Parisi, 1998),显示出许多生物网络的属性 (Kaukman,1993) 。

2000年,Bornholdt 和 Rohlf (2000) 证明了一个简单的局部重连规则(静节点增长连边,动节点失去连边)可以驱动随机阈值网络(RTNs)——随机布尔网络的子集,在大型系统的极限下,达到临界平均连通性Kc=2。该结果后来被推广到随机布尔网络(Rohlf et al., 2007)。这个结论首次证明了:一个简单的自组织网络的局部规则可以导致它们进入临界状态。Liu 和 Bassler (2006) 使用了相同的重连规则,但在共同进化的过程中。他们发现“在演化过程中,临界态的涌现源于拓扑学和动力学的相互作用。”

Goudarzi 等人 (2012) 更进一步,解决了一个长期悬而未决的问题:他们通过计算发现,对于大规模(N)的系统,自适应信息处理驱使随机布尔网络的临界连通性Kc=2。对于有限规模的网络,连通度接近临界值,且与系统规模呈幂律关系。此外,他们还表明,如果任务复杂性和所提供的信息量超过了一定的复杂性阈值,网络学习和泛化在接近临界状态时会得到优化。

大约是2001年,出现了一种新的研究方向——库计算Reservoir Computing (RC)(Jaeger, 2001; Bertschinger and Natschläger, 2004, Maass et al., 2002, Legenstein and Maass, 2007)。库计算的主要思想是:1)一个递归神经网络作为一个固定的、典型地非线性的“储存器,”它将输入投影到一个更高维的空间;2)训练线性输出层将高维空间映射到期望的输出上,后一部分大大降低了训练的计算成本。库计算已经从一个边缘概念发展成为一个相当主流的计算框架(Büsing et al., 2010, Goudarzi and Teuscher, 2016)。库计算在时间信号处理领域尤其出色,然而,触须层可能是非结构化、不完美和不可靠的,这一事实引起了硬件界的关注,因为它有可能使储层的构建比传统硬件更容易、更便宜。这又引出了另一个新领域:非物质计算(Lilak et al., 2021, Dale et al., 2017, Hochstetter et al., 2021)。神经形态计算社区对这一领域特别感兴趣,因为它直接利用物理学来实现神经网络的潜力,而不是建立传统的冯·诺依曼体系结构然后“模拟”神经网络(Nakajima et al., 2021, Hochstetter et al., 2021, Cao et al., 2022, Tran and Teuscher, 2021, Slavova and Ignatov, 2022)。

库计算成为研究者研究混沌边缘的最新游乐场之一。Boedecker等人(2012年)使用了一个信息理论框架,表明当储蓄层处于稳定和不稳定状态之间时,即混沌边缘,回声状态网络(库计算的一种变体)的计算能力最大。Snyder等人(2013年)指出,随机布尔网络库计算中的本征计算能力,在系统处于混沌边缘时达到最大。Carroll (2020)最近的研究似乎与早期处于混沌边缘的库计算相关的许多研究相矛盾:“动力系统的最佳计算能力出现在稳定性边缘,这一概念,通常是不正确的。本文展示了最佳性能不在稳定性边缘的库计算。” Carroll将混沌边缘(EoC)重新定义为稳定性边缘(EoS),即最大Lyapunov指数变为正值的点。值得注意的是,他的结果只基于单一任务和单一储层大小。这个结果是否适用于更普遍的情况还有待观察。

7. 结论与展望

在许多科学领域内,研究结构与随机、有序与混沌之间的平衡都很常见。当然,计算领域也不例外。在混沌边缘计算的概念吸引了相当多的关注,因为它的起源相当抽象——源于算法。多年来,混沌边缘的概念也早已在信息处理之外得到了应用,例如Dambisa Moyo关于社会经济问题的书(Moyo,2018),Oswald等人在处于混沌边缘的关于项目管理的书(Oswald et al., 2018),以及Pamela McCorduck的小说(McCorduck,2007)也对此进行了说明。

混沌边缘是否遵循Gartner的技术炒作周期(Blosch and Fenn, 2018)?该周期包括五个阶段:(1)技术触发,(2)膨胀预期的顶峰,(3)幻灭的低谷,(4)启蒙的斜坡,(5)生产力的平台期。我们认为答案是否定的。虽然最初可能有一些膨胀的期望达峰,但混沌边缘似乎并未经历过幻灭的低谷。相反,在80年代末的技术触发后,多年来逐步达到了生产力的平台期。Mitchell等人的论文(Mitchell et al., 1993)可能在混沌边缘发展的道路上造成了微小的颠簸,但似乎并没有改变研究的总体进程。

许多复杂系统,尤其是活细胞,在维持其时空组织方面表现出非凡的稳定性,但同时,它们也能够适应环境中的各种变化。一个生命的求生本能要求它能整合和处理有限的资源,并对环境的变化作出反应。因此,系统必须处理如有限的能量、资源、空间、时间等的反馈和平衡,才能活下去。它们大致符合Liberman 和 Minina (1996) 提出的四个统一的生物基本原则。也有人假设,生命系统进化进程中被自然选择的依据是在混沌边缘附近执行复杂信息处理的能力。有人提出并研究了几种机制,它们将生命系统以及抽象的非生命系统(如RBN)驱动到临界状态。这样的自组织有多少是目标导向的,有多少不是?仍是一个悬而未决的问题。

Liberman开创和发展的一个概念:细胞是分子计算机——通常被视为生命系统如何组织和运行的模型(Liberman,1972)。这种观点下,计算机被视作处于临界状态的物理系统。它们要在一定的宏观“计算”自由度内支持任意长的时间相关性。这通过将这些自由度与产生误差的热浴自由度解耦来实现。计算机是一种物理系统,在熵无序环境中处于连续相变状态。在这样的环境里,计算机获得了推动计算向前发展的驱动力。但同时,它们必须保护计算不受环境引起的波动的影响(Crutchfield and Young, 1990)。

总结如下:根据Betteridge定律和Hinchcliffe规则(Cook and Plourde,2016),当文章标题提出是或否的问题时,问题的答案通常是否定的。目前似乎也没有必要重寻混沌边缘。我们可以很有信心地说,这一概念已经确立,且在各个领域,以各种方法得到了证明。

Christof Teuscher | 作者

朱欣怡 | 译者

刘培源 | 审校

邓一雪 | 编辑

商务合作及投稿转载|swarma@swarma.org
◆ ◆ ◆

搜索公众号:集智俱乐部

加入“没有围墙的研究所”

让苹果砸得更猛烈些吧!

上一页123末页

栏目热文

文档排行

本站推荐

Copyright © 2018 - 2021 www.yd166.com., All Rights Reserved.