誤差逆伝搬学習における中間層ユニットの逐次削減法

押野 隆弘  尾島 潤  山本 眞司  

誌名
電子情報通信学会論文誌 D   Vol.J76-D2   No.7   pp.1414-1424
発行日: 1993/07/25
Online ISSN: 
DOI: 
Print ISSN: 0915-1923
論文種別: 論文
専門分野: バイオサイバネティックス,ニューロコンピューティング
キーワード: 
ニューラルネットワーク,  バックプロパゲーション,  中間層ユニット,  枝切り法,  

本文: PDF(660.5KB)>>
論文を購入




あらまし: 
3層構造誤差逆伝搬法をパターンの識別関数として用いる場合の中間層ユニット数の最適化手法として,最初は十分大きなユニット数から学習し,段階的に不要ユニットの削減と再学習を繰り返す手法を提案した.すなわち,(1)削減ユニットを抽出する基準として,Sietmaらが提案した分散基準と相関基準を用い,その物理的性質(中間層における識別面の性質)について新しい解釈を加えた.(2)不要ユニット削減後の再学習の初期重み係数は削減前の重み係数をそのまま用いるのではなく,削減による学習情報の欠落を防ぐため,その情報を他のユニットに転化(合成)したものを用いる方式を踏襲した.(3)段階的削減プロセスの前半では分散基準が,後半では相関基準が有効であること,削減の終了は系の認識率の推移から決定するのが妥当であること,などを明らかにし,モデル実験によりその有効性を実証した.