しきい値揺らぎを利用した多層パーセプトロンの並列相関学習法

渡辺 一央  三谷 光照  西田 啓蔵  大堀 隆文  

誌名
電子情報通信学会論文誌 D   Vol.J78-D2   No.1   pp.140-146
発行日: 1995/01/25
Online ISSN: 
DOI: 
Print ISSN: 0915-1923
論文種別: 論文
専門分野: バイオサイバネティックス,ニューロコンピューティング
キーワード: 
並列相関学習,  理論的解析,  最急降下法,  しきい値揺らぎ,  シミュレーション,  フィードフォワードニューラルネット,  

本文: PDF(474KB)>>
論文を購入




あらまし: 
誤差逆伝搬法と異なる並列相関学習法を提案する.本学習法は,各ユニットの出力が内部活性値に関して微分可能で,出力誤差関数が可視ユニットの出力群に関して偏微分可能な,フィードフォワード形ニューラルネットに適用できる.学習のために,各ユニットのしきい値に,小振幅,不偏,独立,等分散の時間的揺らぎ成分nk(t)(k:ユニット番号)を導入する.nk(t)のため誤差関数値も時間変動を有し,e(p, t)(p:学習標本番号)と表せる.このとき,e(p, t)とnk(t)の相関値<e(p, t)nk(t)>と,ユニットkへ直接結合しているユニット群の出力平均<qk(p, t)>のみによって表される,結合係数Wkの修正式ΔpWk=-ε<e(p, t)nk(t)><qk(p, t)>によって,全揺らぎ成分が停止した状態での誤差を最急降下させ得ることを理論的に示す.本学習法では,誤差関数やユニットの非線形関数の形,および層構造を意識することなく,すべての結合係数を並列的に修正可能である.また,XOR課題に関するシミュレーションによって学習可能性を検証する.