- Artificial Neural Network Tutorial
- Artificial Neural Network - Home
- Basic Concepts
- Building Blocks
- Learning & Adaptation
- Supervised Learning
- Unsupervised Learning
- Learning Vector Quantization
- Adaptive Resonance Theory
- Kohonen Self-Organizing Feature Maps
- Associate Memory Network
- Hopfield Networks
- Boltzmann Machine
- Brain-State-in-a-Box Network
- Optimization Using Hopfield Network
- Other Optimization Techniques
- Genetic Algorithm
- Applications of Neural Networks
- Artificial Neural Network Resources
- Quick Guide
- Useful Resources
- Discussion
Kohonen 自组织特征图
假设我们有一些任意维度的模式,但是,我们需要一维或二维的它们。那么特征映射过程对于将宽模式空间转换为典型特征空间非常有用。现在,问题来了,为什么我们需要自组织特征图?原因是,除了能够将任意维度转换为一维或二维之外,它还必须能够保留邻居拓扑。
Kohonen SOM 中的邻居拓扑
可以有多种拓扑,但最常用的是以下两种拓扑 -
矩形网格拓扑
该拓扑在距离 2 网格中有 24 个节点,在距离 1 网格中有 16 个节点,在距离 0 网格中有 8 个节点,这意味着每个矩形网格之间相差 8 个节点。获胜单位用#表示。
六角网格拓扑
该拓扑在距离 2 网格中有 18 个节点,在距离 1 网格中有 12 个节点,在距离 0 网格中有 6 个节点,这意味着每个矩形网格之间相差 6 个节点。获胜单位用#表示。
建筑学
KSOM的架构与竞技网络的架构类似。在前面讨论的邻域方案的帮助下,训练可以在网络的扩展区域上进行。
训练算法
步骤 1 - 初始化权重、学习率α和邻域拓扑方案。
步骤 2 - 当停止条件不成立时,继续步骤 3-9。
步骤 3 - 对每个输入向量x继续步骤 4-6 。
步骤 4 - 计算j = 1 到 m的欧几里德距离的平方
$$D(j)\:=\:\displaystyle\sum\limits_{i=1}^n \displaystyle\sum\limits_{j=1}^m (x_{i}\:-\:w_{ij })^2$$
步骤 5 - 获取获胜单位J,其中D(j)最小。
步骤 6 - 通过以下关系计算获胜单位的新权重 -
$$w_{ij}(新)\:=\:w_{ij}(旧)\:+\:\alpha[x_{i}\:-\:w_{ij}(旧)]$$
步骤 7 -通过以下关系更新学习率α -
$$\alpha(t\:+\:1)\:=\:0.5\alpha t$$
步骤 8 - 减小拓扑方案的半径。
步骤 9 - 检查网络的停止情况。