ホップフィールド・ネットワーク

パーセプトロンは階層構造になっており、階層間にしかエッジが存在しないが、
ホップフィールド・ネットワークは階層構造をとらず、完全単純グラフである。

各ノードは0または1を出力する。
ノード間には、各エッジには重みが割り当てられている。

ノードiとノードjを結ぶエッジの重みを $w_{ij}$ とする。
また、各ノードには閾値が存在し $-\theta_i$ とおく。

時刻tにおける、ノードiの出力を $x_i(t)$ とおくとき、
時刻tにおけるネットワークのエネルギーが定義され、
$E(t) = -\frac{1}{2}\sum_{i\neq j}w_{ij}x_i(t)x_j(t)-\sum_{i}\theta_i(t)x_i(t)$

時刻tにおけるノードの出力の更新を以下のように行う

ランダムに一つノードを選択、( $x_i$ )
選択したノードへの入力を計算し、( $\sum_{j}w_{ij}x_j(t)$ )
入力が閾値より大きければノードの出力を1に、
入力が閾値と等しければノードの出力をそのままに、
入力が閾値より小さければノードの出力を0にする。

この一連の流れが終われば、時刻をt+1に進める。

時刻の経過とともに、ネットワークのエネルギーは単調減少する。

問題点:エネルギーの極小値しか求められない！
→→ホップフィールド・ネットワークに確率要素を入れたボルツマンマシン

巡回セールスマン問題が解ける！？