競合作用により冗長中間層素子を自律淘汰する誤差逆伝搬学習アルゴリズム

松永 豊  村瀬 一之  山川 修  谷藤 学  

誌名
電子情報通信学会論文誌 D   Vol.J79-D2   No.3   pp.403-412
発行日: 1996/03/25
Online ISSN: 
DOI: 
Print ISSN: 0915-1923
論文種別: 論文
専門分野: バイオサイバネティックス,ニューロコンピューティング
キーワード: 
階層型神経回路網,  誤差逆伝搬学習,  競合,  最適化,  中間層素子数,  

本文: PDF(703KB)>>
論文を購入




あらまし: 
階層型神経回路網では与えられた学習問題に必要な中間層ユニット数は一般に未知である.その学習法として通常用いられる誤差逆伝搬法では,中間層ユニット数を設計者が経験的に決定するが,その設定が不適切である場合,収束しなかったり局所解に陥る.そこで,本研究では,まず,中間層各ユニットが役立つ程度を評価する指数としてGoodness factorを提案する.次に,Goodness factorの値に基づきユニット同士を競合させ,冗長な中間層ユニットを学習過程で逐次,淘汰していく誤差逆伝搬学習アルゴリズムを提案する.数値実験では中間層のユニット数は高確率で最小値に収束し,また学習速度も向上した.