2014-10-01から1ヶ月間の記事一覧

オートエンコーダにおける次元圧縮

単純パーセプトロンとは、 入力層のノード数をm,出力層のノード数をnとすると、 あるm次元の(0,1)格子上の点の集合(Mとする)を、n本の線(超平面)で切り分けることによりクラスタリングする手法 線形分離不可能な例では使えない。三層パーセプトロンとは、単…

deep learningの歴史と定義

wikipediaの"deep learning"の記事をの最初の三項を読んだ深層の人工ニューラルネットワークは、1980年のNeocognitronなど古くから存在した。しかし、 1. vanishing gradient problem 2. 上記の理由やそもそものパラメータの多さによる学習の遅さなどの問題…

オートエンコーダ

google論文で使われている学習手法 教師なし学習で、パーセプトロンと同じく3層からなるグラフ入力層と出力層はノードの数が等しく、 入力層への入力を出力層で再現できるように重みを更新していく。 更新方法は、誤差逆伝播法などの勾配法を用いる??中間…