易拉罐的博客

心静自然凉

日志

关于我

易拉罐bb

aaa

文章分类

转人工神经元学习与记忆的简要说明

2012-09-24 20:03:24| 分类：神经网络 | 标签： |举报 |字号大中小订阅

下载LOFTER 我的照片书 |

神经元示意图

上图中，大圆圈表示为一个抽象的*神经元，连线和小圆分别表示神经元的轴突和突触，当一个神经元处于激活状态时候会发出冲动信号，冲动信号延轴突单向传递给*突触（小圆），这时候突触启动，发放*神经递质，发放递质的多少由突触强度大小来决定，强度越大发放的量越多，而产生的效应值也越多，得到效应值的多少对神经元的激活起决定作用，因为神经元激活的条件是：统计所有输入*效应的总值和*阀值做比较，如果超过阀值就表示激活，然后神经元会把冲动信号传递给自己的突触，再重复上述的比较过程。

黄色的大圆圈：表示专门释放兴奋性递质的神经元，淡黄色表示它没有被激活，而黄色表示处于激活状态。

红色的大圆圈：表示专门释放抑制性递质的神经元，淡红色表示它没有被激活，而红色表示处于激活状态。

小圆圈：表示为神经元的突触。旁边用数值标示其连接强度（效应值）

大圆圈中的数值：是某一神经元的阀值。

方框中的数字：表示在某一时刻，神经元在进行的输入效应总值与阀值的比较过程。

正是由于突触传递效果有正效应和负效应，每一个突触的强度大小也不相同，每一个神经元的阀值也不相同，它们的彼此连接可以组成逻辑上的门结构：与门、或门、异或门等，有一些这样的逻辑门连接属于本能的先天性连接，是一种程序化逻辑结构，有一些则属于后天训练而来的逻辑结构。

神经元的“学习和记忆”的形成

如图-1所见，这是一个抽象了的神经连接布局，有4个神经元A、B、C、D。

A：感应外部条件信号输入的神经元
B：感应外部刺激而响应的本能神经元
C：一个中间神经元
D：输出端神经元

W-AC：是神经元 A与C 的连接突触强度
W-BC：是神经元 B与C 的连接突触强度

假定：得到外界某一输入信号而产生本能响应的B 对C的连接W-BC强度足够的强，（这个连接强度大小是先天决定的，由基因遗传保留，强度不会改变），以至于B的激活可以带动C的激活，而C与输出端的D的连接强度也很巩固，那么B的激活通过C也会使得D产生激活。这就是一条简单的反射链：激活B导致D被激活，当然现实中的反射链远比这样要复杂的多，神经元的数目和连接的数目都会更多。像这样的由刺激本能响应而引起的条件输出，就是先天性反射（链）。

再来看A与C的连接W-AC强度是比较虚弱的，它没有B对C的输出影响那么大，（它们的连接可能是由于后天因素刺激而产生的，当然现在我还不能确定这样的产生新连接的机制是否存在，也许是受到外界刺激而产生的某种“尝试性生长”机制在起作用），但我们可以通过Hebb学习规则使A与C的连接W-AC得到强化。

Hebb学习规则的原理可以概括的说：“当两个彼此连接的神经元同时响应的时候，它们之间的连接强度将会加强”

Hebb突触强化过程示意图
1、与靶神经元连接强壮的神经元的激活，可以使得靶神经元激活。
2、与靶神经元连接微弱的神经元的激活，不能使得靶神经元激活。
3、两个输入神经元同步激活，可以使得靶神经元激活。
4、持续进行同步训练，当靶神经元激活的时候会强化所有使其激活的突触连接强度。
5、原来输入微弱的神经元，经过训练，连接在靶神经元上的突触变的强壮，也可以单独使靶神经元激活。

那么我们可以利用这个规则，想象一下，当B激活C的同时，A也对C进行刺激输入，那么C会把A的刺激“看”做一个有效的输入，而强化它们的连接W-AC。久而久之当这种同步持续，伴随着B的引导，A与C的连接会得到足够的加强，已至于后来单独出现A的输入也会引起C的激活，C的激活会引起输出端的D的激活，那么这样我们就建立起了一条新的反射（链）：激活A导致D被激活，也就是一条后天性条件反射（链）。

下面讲一下复杂一些的Hebb突触强化学习过程

如图-2所见这是一个抽象化的蜜蜂脑神经网络

A：感应外部条件信号输入的神经元，看见了红花
B：感应外部条件信号输入的神经元，看见了蓝花
X：感应外部条件信号输入的神经元，得到了蜂蜜，或者说是一种奖励信号，一般在行为后产生信号
C：感应外部刺激而响应的本能神经元
D：一个中间神经元
E：一个中间神经元，和W-AE 、W-DE组成与门
F：一个中间神经元，和W-BF 、W-DF组成与门
G：一个抑制性中间神经元，参与一侧抑制，协助E被选择，抑制旁边的神经元不被激活
H：一个抑制性中间神经元，参与一侧抑制，协助F被选择，抑制旁边的神经元不被激活
I：输出神经元，靠近红花
J：输出神经元，靠近蓝花

W-AD：是神经元 A与D 的连接突触强度
W-BD：是神经元 B与D 的连接突触强度
W-AE：是神经元 A与E 的连接突触强度
W-DE：是神经元 D与E 的连接突触强度
W-BF：是神经元 B与F 的连接突触强度
W-DF：是神经元 D与F 的连接突触强度

假设其中一种颜色的花中有蜂蜜，而蜜蜂在几次尝试后学会了应该靠近哪一种花，这一切发生在神经元D上的W-AD、W-BD强度变化中，在几次尝试后，因为在行为后奖励信号C参与下，W-AD、W-BD的某一个将不断变强，这都是Hebb学习规则的作用，以至于以后单独看见某种花就马上做出反映是否应该靠近它。而整和模块中神经元的作用是作出行为选择，使某一个输入信号更加“显眼”，让运动系统作出唯一选择，这是一种“赢者”赢得一切的路线形式。

http://tieba.baidu.com/p/159955715?pn=1

评论这张

转发至微博

阅读(998)| 评论(0)

历史上的今天

this.p={  m:2,
              b:2,
              loftPermalink:'',
              id:'fks_087066092082089075084095087068072087082064080080086071093094',
              blogTitle:'转 人工神经元学习与记忆的简要说明',
              blogAbstract:'<div\><span style=\"font-family: 宋体; line-height: 24px; text-align: -webkit-auto;\"  \>神经元示意图</span\> </div\><div\><div\><img title=\"转 人工神经元学习与记忆的简要说明 - 易拉罐bb - 易拉罐的博客\"  alt=\"转 人工神经元学习与记忆的简要说明 - 易拉罐bb - 易拉罐的博客\"  style=\"margin:0 10px 0 0;\"  src=\"http://img0.ph.126.net/M1Tq8I7XTQ1J5ihVT6M6vQ==/668784544682243210.jpg\"  \></div\> </div\><div\><span style=\"font-family: 宋体; line-height: 24px; text-align: -webkit-auto;\"  \>上图中，大圆圈表示为一个抽象的*神经元，连线和小圆分别表示神经元的轴突和突触，当一个神经元处于激活状态时候会发出冲动信号，冲动信号延轴突单向传递给*突触（小圆），这时候突触启动，发放*神经递质，发放递质的多少由突触强度大小来决定，强度越大发放的量越多，而产生的效应值也越多，得到效应值的多少对神经元的激活起决定作用，因为神经元激活的条件是：统计所有输入*效应的总值和*阀值做比较，如果超过阀值就表示激活，然后神经元会把冲动信号传递给自己的突触，再重复上述的比较过程。</span\> </div\><div\><br\></div\><div\><div\></div\></div\>',
              blogTag:'',
              blogUrl:'blog/static/133460498201282474336939',
              isPublished:1,
              istop:false,
              type:2,
              modifyTime:1348488204863,
              publishTime:1348488204832,
              permalink:'blog/static/133460498201282474336939',
              commentCount:0,
              mainCommentCount:0,
              recommendCount:0,
              bsrk:-100,
              publisherId:0,
              recomBlogHome:false,
              currentRecomBlog:false,
              attachmentsFileIds:[],
              vote:{},
              groupInfo:{},
              friendstatus:'none',
              followstatus:'unFollow',
              pubSucc:'',
              visitorProvince:'',
              visitorCity:'',
              visitorNewUser:false,
              postAddInfo:{},
              mset:'000',
              mcon:'',
              srk:-100,
              remindgoodnightblog:false,
              isBlackVisitor:false,
              isShowYodaoAd:false,
              hostIntro:'aaa',
              hmcon:'1',
              selfRecomBlogCount:'0',
              lofter_single:'<iframe width="140" height="560" style="overflow:hidden;" src="http://www.lofter.com/mailEntry.do?blogad=1&blog" frameBorder="0"></iframe>'
            }

{list a as x}
    {if !!x}
    <div class="iblock nbw-fce nbw-f40">
      <a class="fc03 noul" target="_blank" hidefocus="true" href="http://blog.163.com/${x.visitorName}/">
      {if x.visitorName==visitor.userName}
      <img alt="${x.visitorNickname|escape}" onerror="this.src=location.f40" class="cwd bdwa bdc0" src="${fn1(x.visitorName)}&r=${visitor.imageUpdateTime}"/>
      {else}
      <img alt="${x.visitorNickname|escape}" onerror="this.src=location.f40" class="cwd bdwa bdc0" src="${fn1(x.visitorName)}"/>
      {/if}
      </a>
      <div class="cwd vname thide">
        {if x.moveFrom=='wap'}
          <a class="noul pnt" target="_blank" href="http://blog.163.com/services/wapblog.html?frompersonalbloghome"><span title="来自网易手机博客" class="iblock wapIcon"> </span></a>
        {elseif x.moveFrom=='iphone'}
          <a class="noul pnt" target="_blank"><span title="来自iPhone客户端" class="iblock iphoneIcon"> </span></a>
        {elseif x.moveFrom=='android'}
          <a class="noul pnt" target="_blank"><span title="来自Android客户端" class="iblock androidIcon"> </span></a>
        {elseif x.moveFrom=='mobile'}
          <a class="noul pnt" target="_blank" href="http://blog.163.com/services/emsblog.html?frompersonalbloghome"><span title="来自网易短信写博" class="iblock wapIcon"> </span></a>
        {/if}
        <a class="fc03 m2a"  target="_blank" hidefocus="true" href="http://blog.163.com/${x.visitorName}/">
          ${fn(x.visitorNickname,8)|escape}
        </a>
      </div>
    </div>
    {/if}
    {/list}

<#--最新日志，群博日志--> <#--推荐日志-->

<p class="fc06">推荐过这篇日志的人：</p>
    <div>
      {list a as x}
      {if !!x}
      <div class="iblock nbw-fce nbw-f40">
        <a class="fc03 noul" target="_blank" hidefocus="true" href="http://blog.163.com/${x.recommenderName}/">
        <img alt="${x.recommenderNickname|escape}" onerror="this.src=location.f40" class="cwd bdwa bdc0" src="${fn1(x.recommenderName)}"/>
        </a>
        <div class="cwd thide">
          <a class="fc03 m2a" target="_blank" hidefocus="true" href="http://blog.163.com/${x.recommenderName}/">
            ${fn(x.recommenderNickname,6)|escape}
          </a>
        </div>
      </div>
      {/if}
      {/list}
    </div>
    {if !!b&&b.length>0}
    <p  class="fc06">他们还推荐了：</p>
    <ul>
    {list b as y}
      {if !!y}
        <li class="rrb"><span class="iblock">·</span><a class="fc03 m2a" target="_blank" href="http://blog.163.com/${y.recommendBlogPermalink}/?from=blog/static/133460498201282474336939">${y.recommendBlogTitle|escape}</a></li>
      {/if}
    {/list}
    </ul>
    {/if}

<#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇，下一篇--> <#-- 热度 -->

{list a as x}
    {if !!x}
    <div class="hotItem iblock nbw-fce nbw-f40">
      <a class="fc03 noul" target="_blank" hidefocus="true" href="http://blog.163.com/${x.publisherUsername}/">
      {if x.publisherUsername==visitor.userName}
      <img alt="${x.publisherNickname|escape}" onerror="this.src=location.f40" class="cwd bdwa bdc0" src="${fn1(x.publisherUsername)}&r=${visitor.imageUpdateTime}"/>
      {else}
      <img alt="${x.publisherNickname|escape}" onerror="this.src=location.f40" class="cwd bdwa bdc0" src="${fn1(x.publisherUsername)}"/>
      {/if}
      </a>
      <div class="cwd vname thide">
        <a class="fc03 m2a"  target="_blank" hidefocus="true" href="http://blog.163.com/${x.publisherUsername}/">
          ${fn(x.publisherNickname,8)|escape}
        </a>
      </div>
      <a class="f-myLikeIcons hottype {if x.type==1} js-liketype{elseif x.type==2} js-reblogtype{elseif x.type==3} js-sharetype{else}{/if}" target="_blank" hidefocus="true" href="http://blog.163.com/${x.publisherUsername}/"> </a>
    </div>
    {/if}
    {/list}

<#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->

页脚

我的照片书 - 手机博客 - 下载LOFTER APP - 订阅此博客

易拉罐的博客

导航

日志

转人工神经元学习与记忆的简要说明

历史上的今天

最近读者

热度

评论

页脚

易拉罐的博客

导航

日志

转 人工神经元学习与记忆的简要说明

历史上的今天

最近读者

热度

评论

页脚

转人工神经元学习与记忆的简要说明