\parinterval 同样,人工神经元是人工神经网络的基本单元。在人们的想象中,人工神经元应该与生物神经元类似。但事实上,二者在形态上是有明显差别的。如图\ref{fig:9-4} 是一个典型的人工神经元,其本质是一个形似$ y=f({\vectorn{\emph{x}}}\cdot{\vectorn{\emph{w}}}+b)$的函数。显而易见,一个神经元主要由${\vectorn{\emph{x}}}$,${\vectorn{\emph{w}}}$,$ b $,$ f $四个部分构成。其中${\vectorn{\emph{x}}}$是一个形如$(x_1,x_2,\dots,x_n)$ 的实数向量,在一个神经元中担任“输入”的角色。${\vectorn{\emph{w}}}$通常被理解为神经元连接的{\small\sffamily\bfseries{权重}}\index{权重}(Weight)\index{Weight}(对于一个人工神经元,权重是一个向量,表示为${\vectorn{\emph{w}}}$;对于由多个神经元组成的神经网络,权重是一个矩阵,表示为${\vectorn{\emph{W}}}$),其中的每一个元素都对应着一个输入和一个输出,代表着“某输入对某输出的贡献程度”。$ b $被称作偏置(对于一个人工神经元,偏置是一个实数,表示为$b$;对于神经网络中的某一层,偏置是一个向量,表示为${\vectorn{\emph{b}}}$)。$ f $被称作激活函数,用于对输入向量各项加权和后进行某种变换。可见,一个人工神经元的功能是将输入向量与权重矩阵右乘(做内积)后,加上偏置量,经过一个激活函数得到一个标量结果。
\parinterval 生物学中,神经元是神经系统的基本组成单元。同样,人工神经元是人工神经网络的基本单元。在人们的想象中,人工神经元应该与生物神经元类似。但事实上,二者在形态上是有明显差别的。如图\ref{fig:9-4} 是一个典型的人工神经元,其本质是一个形似$ y=f({\vectorn{\emph{x}}}\cdot{\vectorn{\emph{w}}}+b)$的函数。显而易见,一个神经元主要由${\vectorn{\emph{x}}}$,${\vectorn{\emph{w}}}$,$ b $,$ f $四个部分构成。其中${\vectorn{\emph{x}}}$是一个形如$(x_1,x_2,\dots,x_n)$ 的实数向量,在一个神经元中担任“输入”的角色。${\vectorn{\emph{w}}}$通常被理解为神经元连接的{\small\sffamily\bfseries{权重}}\index{权重}(Weight)\index{Weight}(对于一个人工神经元,权重是一个向量,表示为${\vectorn{\emph{w}}}$;对于由多个神经元组成的神经网络,权重是一个矩阵,表示为${\vectorn{\emph{W}}}$),其中的每一个元素都对应着一个输入和一个输出,代表着“某输入对某输出的贡献程度”。$ b $被称作偏置(对于一个人工神经元,偏置是一个实数,表示为$b$;对于神经网络中的某一层,偏置是一个向量,表示为${\vectorn{\emph{b}}}$)。$ f $被称作激活函数,用于对输入向量各项加权和后进行某种变换。可见,一个人工神经元的功能是将输入向量与权重矩阵右乘(做内积)后,加上偏置量,经过一个激活函数得到一个标量结果。