2014-09-20

「ローゼンブラットのパーセプトロン（２）」で示した $\vec{x}(k)$ から $\vec{z}(k)$ への変換は１：１対応になっていることに注意して下さい。このようにして生成された $\vec{z}(k)$ を要素として全て含む全体集合が $U_2$ でした。 $U_2$ の任意の部分集合を $J$ とします。 $J$ とその補集合 $\bar{J}$ が線形分離可能であることを示します。

$\vec{z}(i)\in{J}$ であるような $i$ の集合を $A$ とします。 $\vec{z}(i)$ は、成分 $z_i$ だけが1で、他の成分は全て0なので、

$\Bigsum_{i\in{A}}z_i=1$ ・・・・(13)

となります。一方、1から $m$ までの整数の中で、 $j\notin{A}$ であるような $j$ については、 $\vec{z}(j)$ の成分のうち $i\in{A}$ である $z_i$ については $z_i=0$ なので

$\Bigsum_{i\in{A}}z_i=0$ ・・・・(14)

となります。そこで

ならば
- $s_i=1$
ならば
- $s_i=0$
$h=0.5$

であるとすると

$\Bigsum_{i=1}^ps_iz_i-h=\Bigsum_{i\in{A}}z_i-0.5$ ・・・・(15)

となります。式(15)(13)(14)から

ならば
- $\Bigsum_{i=1}^ps_iz_i-h=0.5>0$
ならば
- $\Bigsum_{i=1}^ps_iz_i-h=-0.5<0$

となりますので、 $J$ とその補集合 $\bar{J}$ が線形分離可能であることを示しています。

「ローゼンブラットのパーセプトロン（２）」で提示した課題は、パターン群 $I(w)$ を真ん中の層が変換して出来た $\vec{z}(k)$ の集合を $J(w)$ とするとき、 $J(w)$ とその補集合 $\bar{J(w)}$ が必ず線形分離可能になるように変換することは出来ないか、というものでした。上に述べたように、 $U_2$ の任意の部分集合とその補集合が線形分離可能なので、 $J(w)$ とその補集合 $\bar{J(w)}$ が必ず線形分離可能になるように変換することは出来ることになり、その変換は「ローゼンブラットのパーセプトロン（２）」で示したように真ん中のニューロン $n_{1k}$ のシナプス係数 $s_1ki$ としきい値 $h_k$ を

の時
- $s_{1ki}=1$ ・・・・(5)
の時
- $s_{1ki}=-1$ ・・・・(6)
$h_k=\Bigsum_{i=1}^nx_i(k)-0.5$ ・・・・(7)

とすることによって実現されます。
$J(w)$ とその補集合 $\bar{J(w)}$ が必ず線形分離可能になるように変換されるので、右側の層のニューロン $n_{2w}$ に $J(w)$ を識別するように学習することは可能になります。よって、このパーセプトロンは任意の入力パターン群 $I(w)$ に対して $y_w$ のみが反応するように学習することが出来ます。つまり、学習能力に制約はありません。

工場統計力学（建設中！）

ローゼンブラットのパーセプトロン（３）