根据每一层前面的激活、权重和偏置,我们要为下一层的每个激活计算一个值,但在将该值发送给下一层之前,要是用
激活函数对这个输出进行缩放。
sigmoid函数
sigmoid函数是一个logistic函数,意思是说不管输入什么,输出都在0到1之间,也就是输入的每个神经元、节点或激活都会被锁放在一个介于0到1之间的值。
sigmoid这样的函数常被称为非线性函数,因为我们不能用线性的项来描述它。很多
激活函数都是非线性或者线性和非线性的组合
这个问题与反向传播有关,在反向传播中,我们要计算每个权重的梯度,即针对每个权重的小更新,这样做的目的是优化整个网络中激活值的输出,使其能在输出层得到更好的结果,
到此这篇sigmod激活函数公式(sigmoid激活函数公式)的文章就介绍到这了,更多相关内容请继续浏览下面的相关 推荐文章,希望大家都能在编程的领域有一番成就!版权声明:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若内容造成侵权、违法违规、事实不符,请将相关资料发送至xkadmin@xkablog.com进行投诉反馈,一经查实,立即处理!
转载请注明出处,原文链接:https://www.xkablog.com/haskellbc/70411.html