Artificial Neural Network 简明教程

Associate Memory Network

以下是我们可以观察到的两种类型的联想式内存 −

这是一个单层神经网络，其中输入训练向量和输出目标向量是相同的。权重被确定下来，以便网络存储一组模式。

如下图所示，自动联想式内存网络的结构具有 ‘n’ 个输入训练向量和类似的 ‘n’ 个输出目标向量。

为了进行训练，该网络正在使用希布尔或德尔塔学习规则。

Step 1 − 将所有权重初始化为零，如 wij = 0 (i = 1 to n, j = 1 to n)

Step 2 − 对每个输入向量执行步骤 3-4。

Step 3 − 激活每个输入单元，如下所示 −

x_{i}\:=\:a_{i}

x_{i}\:=\:s_{i}\:(i\:=\:1\:to\:n)

Step 4 − 激活每个输出单元，如下所示 −

y_{j}\:=\:s_{j}\:(j\:=\:1\:to\:n)

Step 5 − 调整权重，如下所示 −

w_{ij}(new)\:=\:w_{ij}(old)\:+\:x_{i}y_{j}

Step 1 − 为希布尔规则设置在训练期间获得的权重。

Step 2 − 对每个输入向量执行步骤 3-5。

Step 3 − 将输入单元的激活设置为等于输入向量的激活。

Step 4 - 为每个输出单元计算净输入 j = 1 to n

y_{inj}\:=\:\displaystyle\sum\limits_{i=1}^n x_{i}w_{ij}

Step 5 - 应用以下激活函数来计算输出

y_{j}\:=\:f(y_{inj})\:=\:\begin{cases}+1 & if\:y_{inj}\:>\:0\\-1 & if\:y_{inj}\:\leqslant\:0\end{cases}

类似于自动关联记忆网络，这也是一个单层神经网络。然而，在这个网络中，输入训练向量和输出目标向量并不相同。权重被确定下来，以使网络存储一组模式。异质关联网络本质上是静态的，因此不会有非线性和延迟操作。

如下图所示，异质关联存储网络的架构具有 ‘n’ 个输入训练向量和 ‘m’ 个输出目标向量。