人工神经网络-遗传算法

大自然一直是全人类灵感的重要源泉。遗传算法 (GA) 是基于自然选择和遗传学概念的基于搜索的算法。遗传算法是一个更大的计算分支（称为进化计算）的子集。

遗传算法是由约翰·霍兰德 (John Holland) 和他在密歇根大学的学生和同事（其中最著名的是大卫·E·戈德堡 (David E. Goldberg)）开发的，此后在各种优化问题上进行了尝试，并取得了高度成功。

在 GA 中，我们有一个针对给定问题的可能解决方案池或群体。然后这些解决方案经历重组和突变（就像自然遗传学一样），产生新的孩子，并且这个过程在不同的世代中重复。每个个体（或候选解决方案）都被分配一个适合度值（基于其目标函数值），并且更适合的个体有更高的机会交配并产生更多“更适合”的个体。这符合达尔文“适者生存”的理论。

通过这种方式，我们一代又一代地不断“进化”出更好的个体或解决方案，直到达到停止标准。

遗传算法本质上是足够随机的，但是它们的性能比随机局部搜索（我们只是尝试各种随机解决方案，跟踪迄今为止最好的解决方案）要好得多，因为它们也利用了历史信息。

GA 的优点

GA 具有多种优点，使其非常受欢迎。这些包括 -

不需要任何衍生信息（这可能不适用于许多现实世界的问题）。
与传统方法相比，速度更快、效率更高。
具有非常好的并行能力。
优化连续和离散函数以及多目标问题。
提供一系列“好的”解决方案，而不仅仅是一个解决方案。
问题总能得到答案，并且随着时间的推移会变得更好。
当搜索空间非常大并且涉及大量参数时很有用。

GA 的局限性

与任何技术一样，遗传算法也存在一些限制。这些包括 -

遗传算法并不适合所有问题，尤其是简单且可以获得衍生信息的问题。
适应度值是重复计算的，这对于某些问题来说可能是计算昂贵的。
由于是随机的，无法保证解决方案的最优性或质量。
如果实施不当，遗传算法可能无法收敛到最优解。

GA——动机

遗传算法有能力“足够快”地提供“足够好”的解决方案。这使得 Gas 在解决优化问题中具有吸引力。需要 GA 的原因如下：

解决难题

在计算机科学中，存在大量的问题，这些问题都是NP-Hard的。这本质上意味着，即使是最强大的计算系统也需要很长时间（甚至几年！）来解决这个问题。在这种情况下，遗传算法被证明是一种有效的工具，可以在短时间内提供可用的近乎最优的解决方案。

基于梯度的方法的失败

传统的基于微积分的方法的工作原理是从随机点开始，沿着梯度方向移动，直到到达山顶。该技术非常高效，并且对于单峰目标函数（例如线性回归中的成本函数）非常有效。然而，在大多数现实世界的情况下，我们有一个非常复杂的问题，称为景观，由许多山峰和许多山谷组成，这导致这些方法失败，因为它们具有陷入局部最优的固有趋势，如图所示如下图所示。

快速获得良好的解决方案

一些难题，例如旅行商问题 (TSP)，具有路径查找和 VLSI 设计等实际应用。现在想象一下，您正在使用 GPS 导航系统，需要几分钟（甚至几个小时）来计算从源点到目的地的“最佳”路径。此类现实应用程序中的延迟是不可接受的，因此需要“快速”交付的“足够好”的解决方案。

如何利用遗传算法解决优化问题？

我们已经知道，优化是一种使设计、情境、资源和系统等尽可能有效的行动。优化流程如下图所示。

优化过程的 GA 机制的阶段

以下是 GA 机制用于问题优化时的阶段。

随机生成初始种群。
选择具有最佳适应度值的初始解决方案。
使用变异和交叉算子重新组合选定的解决方案。
将后代插入种群中。
现在，如果满足停止条件，则返回具有最佳适应度值的解决方案。否则，转至步骤 2。