KL変換用3層構造ニューラルネットワーク

増田 一  大堀 隆文  渡辺 一央  

誌名
電子情報通信学会論文誌 D   Vol.J77-D2   No.2   pp.397-404
発行日: 1994/02/25
Online ISSN: 
DOI: 
Print ISSN: 0915-1923
論文種別: 論文
専門分野: バイオサイバネティックス,ニューロコンピューティング
キーワード: 
KL変換,  3層構造ニューラルネット,  高速学習法,  理論,  シミュレーション,  

本文: PDF(462KB)>>
論文を購入




あらまし: 
KL(Karhunen-Loeve)変換を可能とする3層構造ニューラルネットを提案した.このニューラルネットは次の構造的特徴を有する.(1)入力層N(=入力次元数)個,中間層R(≦N)個,出力層N行×R列個の線形ユニットをもつ.(2)出力層第r(=1,2,….R)列ユニット群は,中間層第rユニットと係数ベクトルWr={Wnrn=1,2,…N}を介して結合し,かつ出力層内で同行前例ユニットから係数1の加算的結合を受ける.(3)中間層第rユニットは,入力層全ユニットと従属的係数Wr/∥Wr2(∥・∥はノルム)を介して結合する.この並列出力形ニューラルネットの入力層-出力層各列間で恒等写像学習を行わせると,大局的最適解に必ず収束し,収束後中間層第rユニットから入力標本の第r次KL変換成分が直接得られることを理論的に示した.また,高速な収束が期待できる簡単な学習則を示した.更に,入力標本群の共分散行列Cが正則,Cが非正則,Cが多重の固有値をもつ,三つの場合についてシミュレーションを行い,理論の妥当性と学習の高速性を検証・確認した