遗传算法的基本原理是什么?

遗传算法的基本原理是什么?

遗传算法 Genetic Algorithm, GA。是一种崭新的全局优化算法,它借用了生物遗传学的观点,通过自然选择、遗传、变异等作用机制,实现各个个体的适应性的提高。[1]

1962年,"遗传算法之父" John Holland 教授,首次提出了GA算法的思想。此后,迅速兴起了研究热潮,被研究学者推广到优化、搜索、机器学习等方面。 用遗传算法解决问题时,首先要对待解决问题的模型结构和参数进行编码,一般用字符串表示,这个过程就将问题符号化、离散化了。当然,也有在连续空间定义的GA(Genetic Algorithm in Continuous Space, GACS)。

John Holland 教授:复杂自适应理论的提出者,复杂系统研究的先锋人物,美国密歇根大学计算机系教授、心理学系教授,美国圣菲研究所的创始人之一。[2]

一个串行运算的遗传算法(Seguential Genetic Algoritm, SGA),按如下过程进行:

1.对待解决问题进行编码;

2. 随机初始化群体X(0):=(x1, x2, … xn);

3. 对当前群体X(t)中每个个体xi计算其适应度F(xi),适应度表示了该个体的性能好坏;

4.应用选择算子产生中间代Xr(t);

5.对Xr(t)应用其它的算子,产生新一代群体X(t+1),这些算子的目的在于扩展有限个体的覆盖面,体现全局搜索的思想;

6.t:=t+1;如果不满足终止条件继续(3)。

GA中最常用的算子有如下几种:

(1) 选择算子(selection/reproduction): 选择算子从群体中按某一概率成对选择个体,某个体xi被选择的概率Pi与其适应度值成正比。最通常的实现方法是轮盘赌(roulette wheel)模型。

(2) 交叉算子(Crossover): 交叉算子将被选中的两个个体的基因链按概率pc进行交叉,生成两个新的个体,交叉位置是随机的。其中Pc是一个系统参数。

(3) 变异算子(Mutation): 变异算子将新个体的基因链的各位按概率pm进行变异,对二值基因链(0,1编码)来说即是取反。

上述各种算子的实现是多种多样的,而且许多新的算子正在不断地提出,以改进GA的某些性能。系统参数(个体数n,基因链长度l,交叉概率Pc,变异概率Pm等)对算法的收敛速度及结果有很大的影响,应视具体问题选取不同的值。

GA的程序设计应考虑到通用性,而且要有较强的适应新的算子的能力。

定义两个基本结构:基因(ALLELE)和个体(INDIVIDUAL),以个体的集合作为群体类TPopulation的数据成员,而TSGA类则由群体派生出来。定义GA的基本操作,对任一个应用实例,可以在TSGA类上派生,并定义新的操作。

TPopulation类包含两个重要过程:

FillFitness: 评价函数,对每个个体进行解码(decode)并计算出其适应度值,具体操作在用户类中实现。

Statistic: 对当前群体进行统计,如求总适应度sumfitness、平均适应度average、最好个体fmax、最坏个体fmin等。

TSGA类在TPopulation类的基础上派生,以GA的系统参数为构造函数的参数,它有4个重要的成员函数:

Select: 选择算子,基本的选择策略采用轮盘赌模型。轮盘经任意旋转停止后指针所指向区域被选中,所以fi值大的被选中的概率就大。

Crossover: 交叉算子,以概率Pc在两基因链上的随机位置交换子串。

Mutation: 变异算子,以概率Pm对基因链上每一个基因进行随机干扰(取反)。

Generate: 产生下代,包括了评价、统计、选择、交叉、变异等全部过程,每运行一次,产生新的一代。

由于GA是一个概率过程,所以在实验中,每次迭代的情况是不一样的;系统参数不同,迭代情况也不同。在实验中参数一般选取如下:

个体数 变异概率

交叉概率 变异概率太大,会导致不稳定。

遗传算法理论属于交叉学科,是多学科结合与渗透的产物,已经发展成一种自组织、自适应的综合技术。目前的研究工作主要集中在以下几个方面:

1.基础理论

包括进一步发展遗传算法的数学基础,从理论和试验研究它们的计算复杂性。在遗传算法中,群体规模和遗传算子的控制参数的选取非常困难,但它们又是必不可少的试验参数,在这方面,已取得一些进展。遗传算法还有一个过早收敛的问题,怎样阻止过早收敛,也是人们正在研究的问题之一。

2.并行遗传算法(Parallel Genetic Algorithm)

指对遗传算法进行并行设计后的算法,是一种适用复杂优化问题的多种群并行进化的遗传算法。 该算法能有效克服标准遗传算法的早熟收敛问题, 具有较强的全局搜索能力。[3]

遗传算法在操作上具有高度的并行性。研究人员探索在并行机和分布式系统上高效执行遗传算法的策略。并行遗传算法将并行计算机的高速并行性和遗传算法固有的并行性相结合,极大地提升了遗传算法的求解速度和质量。对分布并行遗传算法的研究表明,只要通过保持多个群体和恰当控制群体间的相互作用来模拟并行执行过程,即使不使用并行计算机,也能提高算法的执行效率。

3.分类器系统(Classifier System)

分类系统属于基于遗传算法的机器学习中的一类,包括一个简单的基于串规则的并行生成子系统、规则评价子系统和遗传算法子系统。分类系统被人们越来越多地应用在科学、工程和经济领域中,是目前遗传算法研究中一个十分活跃的领域。

4.遗传神经网络

遗传算法与神经网络相结合,。包括连接权、网络结构和学习规则的进化。在一些系统中,训练信号是模糊的,数据是有噪声的,一般很难正确给出每个执行的定量评价。如果采用遗传算法来学习,就能克服这些困难,显著提高系统性能。

5.进化算法EC 模拟自然进化过程的计算机算法:进化算法。

现在学术界,将遗传算法GA、进化策略ES和进化规划EP统称为进化算法EC。遗传算法是其三种典型的算法之一;其余两种算法是进化规划(Evolutionary Programming,EP)和进化策略(Evolutio nary Strategies,ES)。这三种算法是彼此独立地发展起来的。进化规划最早由美国的L.J. Fogel、A.J.Owens和M.J.Walsh提出;进化策略则由德国的I.Rechenberg和H.P.Schwefel建立。