オモリのブログ

趣味をつらつらと書いてみる

ニューラルネットワーク入門_1章

ニューラルネットについて学んでいきます。

今回は、以下のサイトをベースにします。

http://www-ailab.elcom.nitech.ac.jp/lecture/neuro/lecture.html

 

この記事を読むのにかかる時間: 5分 

 

 

神経細胞ニューロン(neuron)という。

f:id:omori95:20160717214612p:plain

 

somaは核などが含まれており、ニューロンの本体。

dendriteはsomaから伸び出した枝のような部分で、ニューロンの入力端子にあたる。

axonはsomaから伸び出した太い枝のような部分で、ニューロンの出力端子にあたる。

synapseは他のニューロンへとつなげる役割で、dendriteはsynapseを通して、他のニューロンから入力信号を受け取る。

 

ニューロン間の信号伝達は電位の変化によって起こり、それはニューロンへの入力信号へとなる。

ニューロンはそれを取り巻く細胞外液との間に膜電位という電位差をもっている。

ニューロンがもっている電位は、細胞外液のほうを0vとしたときの電位

 

膜電位は通常-70vくらいを保っているが、入力信号が加わると電位が上がる。

そしてある閾値を超えると、瞬間的にニューロンの電位が0vを超える

ニューロンが発火

 

このニューロンの構成を応用すると

f:id:omori95:20160717221837p:plain

synapseは結合荷重に、somaはユニットに対応。

結合荷重は、任意の実数値で、入力の際に重みをかける役割をする。これでシナプスが異なる伝達効率を持つもとにも対応。

ユニットは閾値演算をする役割。入力に重みをかけた値の総和が、閾値を超えたか判定する。超えれば「1」を、超えなければ「2」を出力する。

※たくさんの入力が加わったときも、実際のニューロンが出力する信号の大きさは一定なので、ニューロンの出力はあるかないかでよい。

 

 

このニューロンモデルの数値化をしたい。

f:id:omori95:20160717225124p:plain

入力がn個あるとき、それに対応する結合荷重もn個ある。

ニューロンには膜電位があり、入力信号によって膜電位は上昇していく。

これを数値化するには、それぞれの入力に結合荷重をかけて和をとる。この総和をネット値という。

 

ネット値=入力1 ×結合荷重1+......+入力n×結合荷重n

              =X1*W1+X2*W2+........+Xn*Wn

              =Σ XiWi  (^n _i=1)

ニューロン閾値を超えると発火(実際のニューロンは電位差が0を超えると)

つまり膜電位(ネット値)から閾値を引いた値がプラスになると発火。(1を出力)

f:id:omori95:20160718010046p:plain

 

※グラフは参考サイトから引用

 

この関数を段階関数、またはヘビサイド関数という。

この関数をもちいれば、上記のネット値の式を使ってニューロンの出力を0か1で表すことができる。

ニューロンの出力yを示す数式は以下の通り、

y=f(Σ XiWi(^n _i=1) - θ)           ....θは閾値

 

このようにネット値をニューロンの出力値に変換する関数を出力関数という。

 

 

人間の脳には、100億から140億のニューロンが互いにつながりあり、巨大なシステムを構築している。このようにニューロンを構成要素とする回路網を、ニューラルネットワークという。

ニューラルネットワークの例としては、AND,XORなどの論理演算、未知の入力に対してそれが属するパターンを出力するものなど。

いままで一つしかなかったニューロンモデルを複数用いることで、このようなニューラルネットワークをつくることができる。

このとき、ニューロンの接続の仕方で、ネットワークの構造と特徴がきまる。

ニューラルネットワークには大きく二つある。

階層型ネットワークと相互結合型ネットワーク

 

1、階層型ネットワーク

f:id:omori95:20160718013157p:plain

ニューロンを層状にならべ、前の層から次の層へと一方向のみに信号が伝わるネットワーク。このネットワークは任意の入力に対して、出力が一意にきまる。

難点として、層数がすくないとできないことも多いが、任意のパターンを認識するのに最低三層あれば十分。

 

2、相互結合型ネットワーク

f:id:omori95:20160718013914p:plain

※画像は参考サイトから引用

 

このタイプでは、信号が流れる方向が一方向のみでなく、フィードバックを持つ。

特に右図のものをフィードバック付き相互結合型ネットワークという。

非階層ネットワークは、連想記憶モデルや音声認識に用いられる。