重み双方向クラスタリング学習法:最適な共有重み構造をもつニューラルネットを求めて

斉藤 和巳  中野 良平  

誌名
電子情報通信学会論文誌 D   Vol.J88-D2   No.4   pp.789-799
発行日: 2005/04/01
Online ISSN: 
DOI: 
Print ISSN: 0915-1923
論文種別: 論文
専門分野: バイオサイバネティックス,ニューロコンピューティング
キーワード: 
ニューラルネット,  重み共有化,  クラスタリング,  重み枝刈り,  

本文: PDF(333.7KB)>>
論文を購入




あらまし: 
多くの重みをもつニューラルネットの構造を簡素化しつつ汎化性能の向上を図る重み双方向クラスタリング学習と呼ぶ方法を提案する.構造の簡素化とは,ニューラルネット学習において重みがとり得る値の種類を限定して重みの共有化と枝刈りをすることを指す.同じ値をとる重みの集合をクラスタと呼ぶとき,一般には,最適なクラスタ数も各クラスタの構成も未知である.同じクラスタ数の場合でも,クラスタ構成には多くの局所解が存在するのでクラスタ数の増加や減少を繰り返して,与えられたクラスタ数における大域最適解を探索するのが重み双方向クラスタリング学習法である.提案法の有効性を回帰問題と分類問題を用いて評価したところ,クラスタ数を変えながら提案法を適用すれば,最適なクラスタ数と共有重みが決定できたことを示す.