混合分布モデルと対数線形モデルに基づくフィードフォワード型ニューラルネット

辻 敏夫  市延 弘行  金子 真  

誌名
電子情報通信学会論文誌 D   Vol.J77-D2   No.10   pp.2093-2100
発行日: 1994/10/25
Online ISSN: 
DOI: 
Print ISSN: 0915-1923
論文種別: 論文
専門分野: バイオサイバネティックス,ニューロコンピューティング
キーワード: 
階層型ニューラルネット,  混合正規分布,  対数線形モデル,  パターン識別,  

本文: PDF(535.5KB)>>
論文を購入




あらまし: 
本論文では,フィードフォワード型ニューラルネットの一般化能力を改善することを目的として,パターン識別問題によく用いられる混合正規分布モデルと対数線形モデルに基づいた新しいフィードフォワード型ニューラルネットを提案する.まず混合正規分布の各コンポーネントの事前確率と生起確率を一つにまとめ,これに対数線形モデルを適用することで事後確率を計算できることを示す.次にこの前向き計算をニューラルネットに展開し,ゆう度最大の評価のもとで学習則を導出する.本ネットワークは,(1)通常の誤差逆伝搬型ニューラルネットに入力データの分布を近以する統計構造を組み込んだ形になっているので,学習用データとして与えられていない入力データや少ない数の学習用データに対しても高い識別能力を実現できる,(2)混合正規分布モデルのパラメータを無制約化することで,より忠実に入力データの特性を表現できる,(3)統計手法を組み込むことで,ユニットの入出力関数,層の数,ユニットの数などのネットワーク構造を自然に決定することができる,(4)ニューラルネットからの出力値を確率として取り扱うことができるなどの特徴を有している.