Deep Learning
Deep Learningの理解を深めるために、理解したところから記事にまとめていく。
ただし、バラバラに書くので、as-is的な内容です。
活性化関数とは?
入力信号の総和を出力信号に変換する関数。
これでは、意味がわからないので、更に考えていく
要は、閾値を持って、数値を一定以上の時に「真」となるようになれば良い。
ニューラルネットワークは、人間の脳なわけだから、ちょっと考え方を変えて、人間の脳から考えてみる。
例えば、人間の脳が何かをすると「痛い」と言うことを学んだとする。
何をしたら痛いかを経験を積んでいくと、相関関係から「転ぶ」と「痛い」と学ぶ。
この「転ぶ」「痛い」の相関関係が一定以上になった時点で、結論を明確化しシナプスのを「真」にするイメージだろうか。
活性化関数は、様々な種類があるが、どれも共通するのは、ある一定以上の閾値から値を真に近づけることだ。
活性化関数の種類