tensorflow

Python R

Tensorflow でMNISTを学習して勾配情報を取り出す

tensorflow を使ってみたいと思った時に、一連の事が出来る記事です。mnistデータの読み込み、モデルの作成、学習結果の確認、勾配情報の取得について解説しています。
Python R

勾配の更新に関する問題

シグモイド関数を活性化関数に使うと勾配消失問題が起こると巷で言われているので確かめてみます。勾配消失の解決策として、シグモイドでなくて、relu関数を使うと良いと言われますが、本当か検証します。 また、勾配爆発問題が起こる状況を再現し、解決策を解説します。
タイトルとURLをコピーしました