関東CV勉強会でオートエンコーダ他について話した

CV最先端ガイド6のDeep Learningの章を分担して発表する会で、「多層NNの教師なし学習」のセクションを担当した。 発表資料 多層NNの教師なし学習 コンピュータビジョン勉強会@関東 2014/5/26 from Takashi Abe

ニューラルネットワークの実装

pythonの練習とニューラルネットワーク(多層パーセプトロン)の復習として一度実装をしてみようと思い書いてみた。 バッグプロパゲーションによる学習は教科書等で読んでわかっているつもりだったが、実際に手を動かしてパラメータの更新式を導出しようとす…

ラベルプロパゲーション(Zhu and Ghahranabum, 2002)のnumpyによる実装

numpy, matplotlibの練習がてら、ラベルプロパゲーションを実装した。 結果: わかりにくいが、左図が入力で緑点はラベルのないサンプル, 青赤点はそれぞれ-1, +1のラベルが付いたサンプルを表している。 右図はラベルプロパゲーションの結果で、入力中の少数…