自组织映射(Self-Organizing Maps, SOM)
本文定性地介绍自组织神经网络，主要参考资料：slide07.pdf (tamu.edu)
自组织映射（Self-Organizing Maps，SOM）作为一种神经网络模型的灵感来自大脑皮层映射的拓扑性质。我们的视觉输入、触觉输入和听觉输入均非直接输入给大脑，而是先以某种拓扑方式映射到神经网络，信息经过映射之后再传入到大脑中进行处理，比如
自组织映射一般由输入层和输出层构成。它是一种基于竞争学习（Competitive Learning）的模式。所谓竞争学习，即输出层的神经元之间相互竞争以决定谁保持激活。通常输出神经元之间采取赢家通吃（Winner-Take-All， WTA）策略，最终获胜、保持激活的神经元称为赢家通吃神经元。
实现赢家通吃策略有几种方式，比如可以通过神经元之间的侧抑制（Lateral Inhibition）来实现。即一个神经元通过抑制性突触连接其他神经元，当该神经元兴奋时，它倾向于抑制其他神经元。等效地，也可以用全局抑制来代替侧抑制。如下图所示[1]
在SOM中，神经元被放置在网格上（如下图，圆形代表神经元，神经元被放置在一个平面上形成网格）。在这个网格上，为不同的特征（features）创建了有意义的坐标，这个过程也叫特征映射（feature map），即把特征映射成特定坐标位置的神经元。因此，网格就形成了一个拓扑映射，网格上某个空间位置的神经元表示对应的输入。
上图左侧所示为Willshaw和von der Malsburg在1976年设计的Willshaw-von der Malsburg网络模型，用来解释从视网膜到视觉大脑皮层的视网膜映射。它是最早用来以无监督的方式学习两个或多个数据集之间的相关性的神经网络。它具有如下特性：
Willshaw-von der Malsburg模型的主要缺点是计算成本高，使得它在日常的多模态处理中的使用不切实际。Kohonen在1990年代开发了自组织映射（上图右侧，因此又叫Kohonen模型），取代了Willshaw-von der Malsburg网络中的突触后层和突触前层，可以减少这种计算费用。
Kohonen网络模型具有如下特性：
它主要基于三个原则：
我们会在接下来的详细流程解释中看到这三个原则的应用，其中步骤3到4对应竞争性，步骤5对应合作性，步骤6对应适应性。它的详细运作流程如下：
至此，一个无监督学习的自组织映射的过程便完成了。关于更细节的内容，比如近邻函数的选取、学习率、如何衡量映射的好坏等可以参考对应文献[3] [4] [5]。
自组织映射的应用也很广泛：