理论神经信息学：二维映射及不动点周期解结构

2.6.5.1　流 形

在讨论二维映射前，先来讨论一下“流形”的概念，现在的动力学书中讨论的极大部分内容就是流形的性质。其实在庞加莱映射中已经提到了“流”的概念，在这里简略地讨论一下。

1927年数学家伯克霍夫（Birkhoff）首先以“动力系统”为名发表了专著［8］。实际上，动力系统理论最早起源于天体力学问题（特别是三体问题）中常微分方程定性理论的研究。

一个随时间变化的系统S，如果它的运动可归结为一个常微分方程组

式中，x∈Rn，φ∈C′（Rn，Rn），则称系统S 为经典动力系统。

给定了初始条件

将方程（2-59）满足初始条件（2-60）的解记为φ（t，x0）。如果对每一个x0∈Rn，初值问题的解φ（t，x0）的存在时间均可延拓至±∞，则映射φ：R×Rn→Rn应对一切x∈Rn 及t，s∈Rn 满足

满足式（2-61）和式（2-62）的映射φ：R×Rn→Rn，有时称为C′流，并记为φt。

集合Orbφ（x）={φ（t，x）：t∈R}称为系统S 经过初始点x 的轨道，或称为流φt 经过x 点的轨道。

系统S 的运动轨道γ=Orbφ（x）的性质（特别是γ 渐近性态）的研究，用庞加莱的方法，往往归结为研究一个光滑流形上的微分同胚。更一般地说，是归结为研究一个度量空间上连续映射的轨道的性质或者一个保测变换的遍历性。前者称为微分动力系统，后者称为遍历性理论。

一般来讲，我们主要关心微分方程的解，而对动力系统，则主要关心它所有解构成的空间——流形，或者说是空间的特性。

对流形的理解，可用几何方法表示（见图2．43）。

图2.43　流形的几何表示

φ0 表示t=0 时刻，在t 时刻就成为φt，在t+τ 时刻为φt+τ，整个图2．43给出的空间就是一个流形。给出一个初值，就会有一条轨道（方程解），图中给出三个初值，所以有三条轨道解。

以线性动力系统

为例，有解

式（2-64）的通解可由n 个线性独立的解x1（t），x2（t），…，xn（t）线性叠加而成：

式中，Cj 为常数，由初值确定。

矩阵A 如果有n 个线性无关的特征向量Vj（j=1，2，…，n），我们可取向量函数

为解空间的基。

矩阵etA可看作从Rn 到Rn 的映射，在Rn 中给定任意点x0，可以求出它的解。令etA=φ，则φ=Aφ，φ 满足式（2-61）和式（2-62）的条件，所以φ 是一流形。

流形etA：Rn→Rn 可被看作式（2-63）的全部解的集合，在这个集合中，有些落在由特征向量组成的线性子空间中的“解”起着特殊作用，这些子空间在etA下是不变的。A 的特征子空间也是流的不变子空间。

一般讲，特征向量组成的子空间可分为三类：

①稳定子空间，Es=（V1，V2，…，Vns）组成的空间；

②不稳定子空间，Eu=（U1，U2，…，Unu）组成的空间；

③中心子空间，Ec=（W1，W2，…，Wnc）组成的空间。

式中，V1，V2，…，Vns是特征值具有负实部的ns 个特征向量；U1，U2，…，Unu是特征值具有正实部的nu 个特征向量；W1，W2，…，Wnc是特征值具有零实部的nc 个特征向量；n=nc+nu+ns；Es 上解是指数衰减（单调或振荡）；Eu 上解是指数增加；Ec 上解是等幅振荡式常值。

2.6.5.2　二维迭代系统

弹跳球的运动也可理解为乒乓球在球拍上下运动作用下的运动轨迹，如图2．44所示。

图2.44　弹跳球的各种运动状态

当振动台做等周期等幅运动时，可得到小球运动的如下规律：

式中，V（tj）——tj 时刻的小球上升速度；

U（tj）——tj 时刻的小球下降速度；

W（tj）——tj 时刻的振动台运动速度；

H——球离振动台的高度；

α——能量恢复系数，α=1 表示能量没有损失；

tj+1-tj 由自由落体运动确定，tj+1-tj=2V（tj）／g。

令U（tj+1）=-V（tj），表示小球在空气中没有能量损失。

设振动台运动为

引入φ=ωt，v=2ωV／g，γ=2ω2（1+α）β／g，就有

把φ 和v 作为系统状态变量（φ 为碰撞时刻的相位，v 为碰撞时刻的速度），a和γ 是控制参量。

先用计算机求取数值解，式中恢复系数a=0．5，γ=10，即可得二维迭代式

对式（2-68）做计算，结果如下。（90°，0）是不稳定不动点，B（199．53°，18．85）是另一个不稳定不动点。也还有其他不稳定不动点，在B 点附近有一对周期2 解的点C（188．78°，19．15）和D（206．28°，18．54）。

当初始点在D、C 附近时，经多次迭代确实会收敛到这个周期2 解：C（φ，v）⇌D（φ′，v′）（见图2．45）。(www.xing528.com)

图2.45　图2.44系统中存在的不动点

当初始点在（90°，0）附近时，数值计算结果不会收敛到C 和D 两点的周期2 解，而逐渐收敛于A 点。其中60000 次迭代的结果如图2．46所示。A 点附近局部放大（见图2．47），这是一个奇怪吸引子（strange attractor），它与周期2 共存，系统的解被吸引到这个奇怪吸引子中。从外观看，弹跳球上下跳动好像没有规则，类似于随机运动。但是从图2．46和图2．47看，解的内部结构虽复杂，却并非没有规律。

图2.46　60000 次迭代的结果

图2.47　图2.46中的A 点处放大

分析式（2-67）在A 点领域内的动态过程

在不动点A（90°，0）附近，式（2-67）性能与其线性系统差不多。式（2-67）的线性化系统L 为

L 的特征方程为

求得两根：特征根一正一负，说明此奇点是鞍点（见图2．48）。

图2.48　式（2-70）线性化后在A 点处的相图

图中SA 方向是稳定流形，S 随时间增加做进一步迭代，从S 变为S′，逐渐向A 点靠近。QA 是不稳定流形，做进一步迭代，使Q 变为Q′。逐渐远离A 点。R 点经迭代后就成为R′。当迭代无数次后，R 点（也代表所有点）越来越靠近不稳定流形AQQ′，并远离A 点。

这对于线性系统没有多大意义，但是对于非线性系统而言却是十分有意义的。

如果能找到它在A 处的不稳定流形，可以猜测这个不稳定流形就是奇怪吸引子。弹跳球不可能跳到无穷远，在一定条件下可以控制在有限高度。但是不稳定流形却是在不断地“拉伸”，唯一的一种情况是只在适当地方迂回曲折地盘绕。这是不变流形在A 点处切于线性系统的特征方向（见图2．49）。

图2.49　式（2-70）在A 点处的相图

一个系统在通过一定时间以后，系统稳定流形的作用都将消失，最后留下的是不稳定流形的作用。对于线性系统，不稳定流形就简单地趋向无限远，没有多大意义；而对于非线性系统，不稳定流形虽然不断发散，但是它永远留在有限范围内运动，这就是奇怪吸引子。这就成为非常有意义的事，神经系统就是充分利用了这一不稳定流形。

2.6.5.3　初值敏感性——蝴蝶效应

从图2．49可以看出，M0、N0 两点经一次迭代后变为M1、N1 两点。两点之间连线拉长了，再一次迭代之后，M2、N2 两点之间的连线更长了。初始M0、N0 两点不管如何小，只要经过足够的迭代次数，总可以使两点之间的连线达到任意长。这就是混沌系统的初值敏感性，形象地说，就是蝴蝶效应——如果将大气层视为一个动力系统，格林尼治天文台旁有一蝴蝶拍一下翅膀，在美洲大陆会引起一场大风暴。

如果能把初值敏感性倒过来使用，也就能测量到后面的轨道分离情况，则可以很灵敏地感知初值微小的变动。系统越不稳定，这一初值敏感性效果越明显。神经系统就是利用初值敏感性来检测小信号的。

2.6.5.4　汉农映射

汉农（Henon）映射是非线性动力学中的典型映射，很多非线性文章都会提到此映射。它的迭代式如下：

式（2-73）的雅可比行列式是

上式说明，每一次迭代使任何面积单元缩小到原来的0．3 倍，J 为负说明面积边界的指向在迭代中改变。据式（2-73）可得系统的两个不动点的坐标A（0.631，0.631）和B（-1.131，-1.131）。在A 处根据式（2-74）线性化，其系数的矩阵是

矩阵特征值为κ1=-1．924，相应的特征方向是（x-ξA）∶（y-ηA）=-1．924∶1 和κ2=+0．156，特征方向为0．156∶1。因，不动点A 是不稳定的，如图2．50所示，在A 点附近沿两特征方向取平行四边形单元abcd，它经变换φ 后成为a′b′c′d′，在κ1 特征方向拉长到1．924 倍，且到了A 的另一侧，在κ2 特征方向被压缩到原来的0．156，在A 的同一侧，其面积缩小到原先的0．3，a′b′c′d′指向与abcd 相反。如b 点位于特征线CAE 上，则b′也在CAE 上，CAE（挖去A 点）是这个线性化系统的一个不变集合。同样，特征线JAK（挖去A 点）也是一个不变集合，但由于κ2 是正的，可以把AJ（不计A 点）和AK（不计A 点）当作两个独立的不变流形，CAE 称为不稳定流形，而AK（或AJ）则是稳定流形。对一个面积单元如abcd，假若做多次迭代φ，则它将成为很长很窄、面积趋于零的直线条，它与CAE 无限靠近而远离AK。这是就线性化系统得出的结论。由于实际系统是非线性的，系统在大范围或全局的动态并不完全是这样的，但一个面积单元将被“拉”成很长很窄、面积趋于零的直线条这一性质仍然存在。

图2.50　A 点及其附近的流形

为说明全局的动态，考虑图2．51中一个四边形PQRS，每一边是x，y 的一次式，因而经迭代式（2-73）作用后，它变为由四段抛物线围成的一个曲边四边形P′Q′R′S′。由式（2-73）可以找到某些四边形PQRS，使P′Q′R′S′完全位于PQRS 的内部。满足以上条件的一组数据是P（- 1．325，1．39），Q（1．32，0．45），R（1．25，-0．41）和S（-1．05，-1．56）。如用D 代表这个四边形围成的区域，那么上述性质可表述为φD 是D 的一个子区域，即φD⊂D。因为P′Q′R′S′在PQRS 之内，故它们的迭代一次结果仍满足这个关系（见图2．51中阴影区域）。

图2.51　汉农映射

在P′Q′R′S′之内，φ2D≡φ（φD）⊂φD。于是有

D⊃φD⊃φ2D⊃φ3D⊃…

由于φ 的雅可比行列式为-0．3，φD 的面积是D 的0．3，φ2D 是φD 的0．32即D 的0．09 等等。经过足够多次的迭代，这个面积将被缩小为任意小的面积。初始点落在D 内，则它的各次迭代结果将逃不出φD，φ2D，φ3D 等的范围。D 是一个捕捉区，进入这个区域后，最终将被吸引到φnD（n→∞）的极限区域内。故这个区域内存在一个“吸引子”，代表系统的极限情况或定常态，吸引子本身应该是φ 的一个不变集合。不动点A 在φnD 区域之内而且是不变集合，φA=A，但它成不了吸引子，因为它是不稳定的。当n 充分大时，点Pn（xn，yn）跑不出φnD，又不能在不动点处安定下来，我们自然关心，φnD 的极限形状是什么，这个吸引子又是什么。

先分析φnD 的形状。D 经过φ 变成φD 的过程可以看成是由如图2．52中的几步组成的：①将PQRS 拉长且压扁，面积缩小到0．3 倍；②因为J 是负的，将图左右翻转；③弯曲成曲边四边形；④再放进原四边形之内。为了求φ2D，可以把最后一个图再重复①到④几步，于是图中P′Q′R′S′就变成如图2．52所示的P″Q″R″S″，即φ2D 的边界。对这个区域再重复①到④，可得φ3D，形状如图2．51所示，这个区域已有明显的4“股”。变换φ 的过程类似于“抻面条”［英文中称为揉面团（kneading）］。这种抻面变换作用无穷多次，就得到φnD 的极限形状，它的宽度无穷小，长度无穷长，又无穷多次来回盘旋。吸引子在这个极限区域内，但并不等同于这个区域。然而对我们给定的方程（2-73），即其平方项x2n 的系数为1．4 的情况，数值计算结果表明，吸引子是无穷多次盘旋且有无穷多股的，但数值结果还无法给出确切结构（因为数字机中不能仿真混沌）。另外，从这里可以看出，系统轨道会无限拉长，混沌轨道看来是很乱的，但还是有一定规律可循。

图2.52　汉农映射过程

回到图2．50中的CAE 线，设初始点在此线上十分接近A 点（但不是A点本身），取它的各次迭代结果，开始时将几乎在直线CAE 上，但稍远后由于非线性项起作用，将越来越偏离线性系统特征线。所有这种点的轨迹组成不动点A 的（非线性系统的）不稳定流形，它是经过A 点的一条无穷长、无穷次回旋的曲线，在A 点附近就可用直线CAE 做近似。

现在来讨论图2．53中的CAE 线，设初始点在此线上十分接近A 点（但不是A 点本身），取它的各次迭代结果，开始时将几乎在直线CAE 上，但稍远后由于非线性项起作用，将越来越偏离线性系统特征线。所有这种点的轨迹组成不动点A 的（非线性系统的）不稳定流形，它是经过A 点的一条无穷长、无穷次回旋的曲线，在A 点附近就可用直线CAE 做近似。

图2.53　汉农映射的稳定流形与不稳定流形

这个不稳定流形（注意A 点不算在内，要把它挖去）对变换也是不变的，它是φ 的一个不变集合，也落在上述极限区域之内。事实上，数值计算结果证实，这个不变集合（A 的不稳定流形）和上述极限区域一样，无穷多次盘旋、无穷长，但区域是二维的，这条不稳定流形是一维的，吸引子介于两者之间。系统的吸引子是这个不稳定流形以及各种周期点类似的不稳定流形并集的闭包。这样就可以理解，为什么数值计算表明吸引子具有分数维。事实上这些（无穷多条）曲线无穷多次盘旋，因而如果对曲线取一个“横截面”，它由无穷多个点组成，这些点组成数学上被称为康托尔集（Cantor set）的一个集合。直观一些说，如果把这个吸引子的一小部分放大，它有无穷多层次，每一小部分放大又是无穷多层次（见图2．54），这样的吸引子被称为奇怪吸引子。这里不准备对奇怪吸引子做数学上的说明。“奇怪”是相对于“平凡”而言的，平凡吸引子包括稳定的不动点和下面将说的稳定的周期点。

图2.54　汉农不稳定轨道中点的映射

数学上的奇怪吸引子往往和物理上的混沌现象相联系。对初始值位置做微小扰动，后来的点位置（当迭代次数足够多时）的确切位置就不可预测了，位置对初始值的依赖性十分敏感，这即是混沌现象。

在图2．53中可看到稳定流形和不稳定流形相交。只要稳定流形与不稳定流形相交一次（A 点不算），就会有无穷多个交点，这种交点称为同宿交点。有同宿交点就有斯梅尔马蹄（Smale horseshoe）。

斯梅尔马蹄变换就是它使一个区域和它的映象相交于互不相通的两块。图2．55中区域R 经逆映射φ-sR 的一块，经φs+r就是图中马蹄形的一个区域，它与φ-sR 相交，有两个不连通的区域。这就是一次马蹄变换（后面将会进一步讨论）。

图2.55　斯梅尔马蹄［9］