Linsker网络的模拟实验

结合原论文[1]整理出Linsker网络的定义并进行了实现。

【Linsker网络定义】

突触分布函数: \(e^{-a^Mr^2}\),其中,\(r_M\equiv(a^M)^{-\frac{1}{2}}\)
假设L层向M层输入
a representation用\(\pi\)代表,则{\(F^{L\pi}_x\)}代表L层\(\pi\)表示的所有位置(x)的活动(activity)的集合。

第一层为A,定义同一box内的\(F^{A\pi}_x\)相同,跨box之间不相关。
第二层为B,对于A层的每一个box只接收其中的一个或几个输入。
\(N_B\)代表从A到一个B细胞的突触数,这些突触零星散步在\(\pi^2_B\)的范围内,可以将该约束表示为:N_B\delta^2/\pi^2_B \lesssim 1

上层是下层的线性组合:
\(F^{M\pi} = R_a + R_b\sum_jc_jF_{j}^{L\pi}\)
其中,\(R_a\), \(R_b\)为常数, \(c_j\)为联接权重。

\(c_j\)的赫布类型更新规则:

\((\triangle c_i)^\pi = k_a + k_b(F^{M\pi} – F_0^M)(F_i^{L\pi} – F_0^L)\)

其中,\(k_a, k_b, F_0^M和F_0^L\)都是常数
为了将联接强度限制在-1~1之间,引入加和平均生长公式。
Ensemble-Averaged Development Equation:
\(\dot{c_i} = k_1 + \frac{1}{N_M}\sum_j(Q_{ij}^L + k_2)c_j\)
其中,
\(Q_{ij}^L \equiv f_0^{-2}<(F_i^{L\pi} – \bar{F}^L) \times (F_j^{L\pi} – \bar{F}^L)>_\pi;\)
其中,
<>表示加和平均
\(k_1 \equiv \frac{[k_a + k_b(R_a – F_0^M)(\bar{F}^L – F_0^L)]}{N_Mk_bR_bf_0^2};\)
\(k_2 \equiv \frac{\bar{F}^L(\bar{F}^L – F_0^L)}{f_0^2}\)
其中,\(N_M\)为到达M细胞的总数量;\(f_0\)是任意单位的activity;时间的单位 每单位时间内的”presentation”的数量\(N_{pres} \equiv \frac{1}{N_Mk_bR_bf_0^2}\), \(\dot{c}_i \equiv N_{pres}<(\triangle c_i)^\pi>_\pi,其中,\bar{F}^L\)是L层全部activity的加和平均。

\(\bar{F}^L和Q_{ii}^L\)在没有外部输入的情况下都是与位置无关的

【实现】

使用js做了一个简单的实验室页面,目前可进行初步的A层-B层的模拟,点击前往

【结果】

A层-B层的模拟结果:当\(F_0^L > \bar{F}^L\)时,k2 < 0,对于k = g = -k1/k2,给定\(F_0^M = 0\),可发现论文中的描述,\(n_{EB}\)比例的突触权重会变成兴奋极值\(n_{EB}\),其他突触权重会变成抑制极值\(n_{EB} – 1\)

B层-C层的模拟结果:进行中。。。

【参考文献】

[1] Linsker Ralph (1986) From basic network principles to neural architecture: Emergence of orientationselective cells. Proc Natl Acad Sci USA 83: 8390–8394.


微信公众号: 深度学习
qrcode_for_gh_79a66349c8c4_258
版权所有,转载请注明出处: dengfanxin.cn