接下来一段时间开启脉冲神经网络模型的探索之旅。脉冲神经网络有更强的生物学基础，尽可能地模拟生物神经元之间的连接和通信方式。其潜在能力较强，值得踏进一步探索。 构建脉冲神经网络模型，至少需要考虑三点： 1. 外界刺激编码 2. 构建神经元模型 3. 制定学习规则 外界刺激的编码方式主要有Rate Coding和Temporal Coding等，这里不在细述。而Hodgkin和Huxley两位研究员早在1952年就提出了第一个神经元模型：HH[1]。随后陆续有各种神经元模型被提出，其中具有代表性的为Izhikevich模型[2]和LIF(Leaky-Integrate-and-Fire)模型[3]。 以LIF神经元模型为例，其数学表达形式如下： \[\tau \frac{{dV}}{{dt}} = - (V - {V_r}) + RI\] 其中，\(\tau = RC\)为膜时间常数，\(R\)为膜电阻，\(C\)为膜电导，\(V\)为膜电位，\(V_r\)为复位电位，\(I\)为注入电流。当膜电位超过一个固定的阈值时，神经元发放一个脉冲，并很快地降至复位电位并维持一小段时间，然后接受前段突触的输入脉冲重新升高膜电位。各种神经元模型均类似于此过程。 学习规则又分为无监督和有监督，其中无监督学习方法以STDP（Spike-Timing-Dependent Plasticity）[4,5]为代表，而有监督学习包括Tempotron[6]，ReSuMe（Remote Supervised Method）[7]和SpikeProp[8]等。 以Tempotron为例，阈值下的后突触膜电位(PSPs, Postsynaptic Potentials)为所有输入脉冲的加权和： \[V(t) = \sum\limits_i {{\omega _i}\sum\limits_{{t_i}} {K(t – {t_i}) + … 继续阅读 →