柯尔莫哥洛夫熵

柯尔莫哥洛夫熵（以下简称K熵）是刻划混沌系统的一个重要的量。在不同类型的动力学系统中，K熵的数值是不同的。K熵的数值可以用来区分规则运动、混沌运动和随机运动。在随机运动系统中，K熵是无界的；在规则运动系统中，K熵为零；在混沌运动系统中，K熵大于零，K熵越大，那么信息的损失速率越大，系统的混沌程度越大，或者说系统越复杂［3］。在信息论中，香农熵（Shannon熵，简称S熵）定义为

（1）

式中pi是系统处于状态i的概率；h是与熵的单位有关的常数。根据香农的信息理论，S熵可用来刻划对系统未知的程度，当S熵的数值大于零时，系统总存在我们无法认识的侧面。

根据S熵的定义，可以引入K熵的定义如下：如果奇怪吸引子动力系统的轨道为x（t）={x1（t）,…,xd（t）},设d维空间被划分成一系列尺寸为ld的盒子，系统的状态可在时间τ的间隔内观察，设pi0…in是x（0）在盒子i0中，x（τ）在盒子i1中，x（nτ）在盒子in中的联合概率，根据香农公式有

（2）

它正比于以长度l确定系统在特殊轨道i*0,…,i*n所需要的信息。因此kn+1-kn是系统于已知单元i*0,…,i*n中和系统在预测单元i*n+1中的信息之差，这意味着kn+1-kn量度了系统从时间nτ到（n+1）τ的信息损失。K熵定义为信息的平均损失率为

极限l→0说明K熵与相空间的划分无关。