图1.5说明了一个生物神经元是如何工作的。生物神经元通过电信号在相互之间传递信号或者消息。相邻的神经元通过它们的树突接收这些信号。信息从树突流向称为胞体的主细胞体,再通过轴突到轴突末端。实质上,生物神经元就是彼此之间相互传递与各种生物功能相关信息的计算机器。
图1.5 生物神经元
神经元是人工神经网络的核心,它是最基本的处理要素。输入层神经元接收进入网络的信息,这些信息通过一个数学函数来处理,接着被传递到隐藏层神经元。这种信息经过隐藏层神经元处理传递到输出层神经元。信息通过一个激活函数进行处理,这是神经元工作的关键。激活函数模拟了大脑神经元,大脑神经元是否工作取决于输入信号的强度。
第一个感知器模型是1958年在康奈尔航空实验室中开发的。它由无反馈的三层所构成:
1)传递输入数据到第二层(视网膜)。
2)把加权输入和阈值阶梯函数组合起来(神经元连接)。
3)输出层。
处理的结果接着被加权并且被传递到下一层的神经元中。实质上,神经元通过加权和相互激活,根据处理信息的权重来确定两个神经元之间的联系强度大小。(www.xing528.com)
每一个神经元都包含一个激活函数和一个阈值。阈值是输入要激活神经元所必须的最小值。因此,神经元的任务就是,在传递输出到下一层之前,求输入信号的加权和,以及执行一个激活函数。
综上,输入层对输入数据进行求和;中间层神经元对由输入层神经元传输而来的加权信息进行求和;并且输出层对由中间层神经元传输而来的加权信息进行求和。
图1.6说明了神经元是如何工作的。给定一个输入样本的特征{x1,…,xn}和一个权重Wi;接着计算神经元输入的加权和,公式如下:
图1.6 神经元的替代表示
参数bi被称为抑制量(偏置),它类似于线性回归模型中的截距。它使得网络能够“上移”或者“下移”激活函数。这种弹性对于成功的机器学习是重要的。
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。