交差検証誤差逆伝搬法によるランク縮小

関野 正志  新田 克己  

誌名
電子情報通信学会論文誌 D   Vol.J92-D   No.1   pp.61-69
発行日: 2009/01/01
Online ISSN: 1881-0225
DOI: 
Print ISSN: 1880-4535
論文種別: 論文
専門分野: 人工知能,認知科学
キーワード: 
ニューラルネット,  誤差逆伝搬法,  過学習,  Cross-Validation,  縮小ランク回帰,  

本文: PDF(438.7KB)>>
論文を購入




あらまし: 
本論文では,ニューラルネットが過学習する原因について考察し,新たな点推定法である交差検証最ゆう推定とその学習法である交差検証誤差逆伝搬法を提案する.提案法を線形ニューラルネットに適用すると,真の関数が識別不能な場合にランクの縮小が起こり,平均汎化誤差は通常の最ゆう推定や誤差逆伝搬法をEarly-Stoppingした場合,ベイズ推定したときの平均汎化誤差の主要項よりも小さくなった.また,真の関数がほぼ識別不能な場合にも良好な推定性能が得られた.