はじめに
前回に引き続き、Peters' NoteのPart 4 Vectorizationを見ていきます。
今回の記事では2クラス分類問題に対して、
- バックプロパゲーションをベクトルで扱う方法
- Gradient Checking
- モーメンタム法
を順に実装していきます。
目次
- はじめに
- 目次
- 今回扱うニューラルネットワーク
- 使用するデータセットの用意
- ベクトル化
- 順伝播
- 隠れ層の出力
- 出力層の出力
- 逆伝播
- 出力層での逆伝播
- 隠れ層での逆伝播
- 順伝播
- Gradient Checking
- モーメンタム法を使った最適化
- 最急降下法を使ったらどうなるの?
- GitHub
- 関連記事