日々、勉強。

自宅の開発でトラブルになったことの解決策をメモっていきます。

Deep Learning

Deep Learningの理解を深めるために、理解したところから記事にまとめていく。

ただし、バラバラに書くので、as-is的な内容です。

 

 

活性化関数とは?

入力信号の総和を出力信号に変換する関数。

これでは、意味がわからないので、更に考えていく

要は、閾値を持って、数値を一定以上の時に「真」となるようになれば良い。

ニューラルネットワークは、人間の脳なわけだから、ちょっと考え方を変えて、人間の脳から考えてみる。

 例えば、人間の脳が何かをすると「痛い」と言うことを学んだとする。

何をしたら痛いかを経験を積んでいくと、相関関係から「転ぶ」と「痛い」と学ぶ。

この「転ぶ」「痛い」の相関関係が一定以上になった時点で、結論を明確化しシナプスのを「真」にするイメージだろうか。

 

活性化関数は、様々な種類があるが、どれも共通するのは、ある一定以上の閾値から値を真に近づけることだ。

活性化関数の種類