700字范文,内容丰富有趣,生活中的好帮手!
700字范文 > 中国人工智能学会通讯——心智模型CAM的学习记忆机制 1.3 互补学习系统

中国人工智能学会通讯——心智模型CAM的学习记忆机制 1.3 互补学习系统

时间:2018-05-07 20:40:48

相关推荐

中国人工智能学会通讯——心智模型CAM的学习记忆机制  1.3 互补学习系统

1.3 互补学习系统

根据马尔(David Marr)早期的想法 [3], 斯坦福大学心理学教授麦克莱伦德(James L. McClelland)于 1995 年提出了互补学习系统 (complementary learning systems,CLS)理论[4]。 该理论认为人脑学习是两个互补学习系统的 综合产物,一个是大脑新皮质学习系统,通 过接受体验,慢慢地对知识与技能进行学习; 另一个是海马体学习系统,记忆特定的体验, 并让这些体验能够进行重放,从而与新皮质 学习系统有效集成。

年, 谷 歌 深 度 思 维 的 库 玛 拉 (Dharshan Kumaran)、 哈 萨 比 斯(Demis Hassabis)和斯坦福大学的麦克莱伦德在《认 知科学趋势》刊物上发表文章 [5], 拓展互补学 习系统理论。大脑新皮质学习系统是结构化 知识表示,而海马体学习系统则迅速地对个 体体验的细节进行学习。文章对海马体记忆 重放的作用进行了拓展,指出记忆重放能够 对体验统计资料进行目标依赖衡量。通过周 期性展示海马体踪迹,支持部分泛化形式, 新皮质对于符合已知结构知识的学习速度非 常迅速。最后,文章指出了该理论与人工智 能的智能体设计之间的相关性,突出了神经 科学与机器学习之间的关系。

图 4 给出大脑半球的侧视图。其中虚线 表示大脑内或深处的区域内侧表面,主要感 觉和运动皮质显示为深黄色。内侧颞叶(medial temporal lobe,MTL)包围虚线,海马以深灰 色和周围的内侧颞叶(MTL)皮质浅灰色(大 小和位置是近似的)。绿色箭头表示整合的 新皮层关联区域内之间,以及在这些区域和 模态特定区域之间的双向连接。蓝色箭头表 示新皮质区域和内侧颞叶(MTL)之间的双 向连接。蓝色和绿色连接是互补学习系统理 论中结构敏感的新皮质学习系统的一部分。 内侧颞叶内的红色箭头表示海马内的连接, 浅红色的箭头表示海马之间的连接和周围的 内侧颞叶(MTL)皮质:这些连接表现出快 速突触可塑性,这对将事件的元素快速结合 成整合的海马表示非常重要。系统级合并涉 及重播期间通过用蓝色箭头指示的途径扩散 到新皮质关联区域的海马活性,从而支持在 新皮质内连接(绿色箭头)内的学习。系统 级合并是在记忆检索时完成,重新激活相关的新皮质表示集成,可以在无海马情况下完成。

图 5 给出海马子区域、连通性和表示 示意图,其中圆形或三角形表示神经元细胞 体,红色线条表示高可塑性突触的投影,而 灰色显示相对稳定的可塑性突触的投影。互 补学习系统理论框架内的工作依赖于内侧颞 叶(MTL)分区的生理特性。在体验期间, 来自新皮质的输入在内嗅皮质(entorhinal cortex,ERC)中产生激活的模式,可以被认 为是压缩描述的贡献皮质区域中的模式。图 5 中内嗅皮质的说明性活动神经元以蓝色显 示。内嗅皮质神经元产生投射到海马体的三 个分区, 即 DG、CA1 和 CA3。

海马体学习系统实现模式选择和模式分 离。新的内嗅皮质 (ERC) 模式激活一组以前 未提交的 DG 神经元,图 5 中显示红色,这 些神经元可能是相对年轻的神经元,通过神 经发生创建。这些神经元,反过来,通过大 的“引爆突触”选择 CA3 中的神经元的随机 子集。在从 DG 投影到 CA3 表示为红点,用 作 CA3 中的记忆表示,确保新 CA3 模式与 用于其他记忆的 CA3 模式尽可能不同,包括 用于经验的模式,类似于新的经验。来自活 动的 CA3 神经元反复连接到其他活动 CA3 神经元上,表示体验增强,使得相同神经元 的子集稍后变为活动,其余的模式将被重新 激活。从 ERC 到 CA3 的直接连接也得到加 强,允许 ERC 输入在检索期间直接激活 CA3 中的模式,而不需要 DG 参与。

从 ERC 到 CA1 和背部的连接改变相对 缓慢,允许 CA1 和 ERC 之间的模式相对稳 定对应。在记忆编码期间,当 CA1 模式与相 应的 CA3 模式被重新激活时,从活动的 CA3 神经元到活动的 CA1 神经元连接加强。从 CA1 到 ERC 的稳定连接则允许适当的模式有 待重新激活, ERC 和新皮质区域之间稳定的 连接传播模式到大脑皮层。重要的是,CA1 和 ERC 之间,以及 ERC 和新皮质之间的双 向投影,支持内嗅皮质和新皮质模式的可逆 CA1 表示的形成和解码,并允许重复计算。 这些连接不应该快速改变给定的记忆中海马 的扩展作用,否则在海马中存储的记忆在新 皮质中难以恢复。

图 6 解释海马的连接编码、模式分解和 合成。图 6 (A) 给出有 5 个输入端连接 10 个 输出端,每个输出端连接 2 个不同模式的输 入。每个连接单元检测相邻输入单元的活动。DG 可以使用高阶的连接,放大这些影响。图 6 (B) 说明模式分离函数的一般形式,显示在 输入和输出之间的关系重叠;箭头表明图6(A) 中输入和输出的重叠。图 6(C) 表示模式分解 和合成的情况与 CA3 相关,在那里输入低的 重叠减小少,而较高的输入重叠减小多。

模式分解和合成是根据影响神经活动模 式之间的重叠或相似性的变换来定义的。模 式分解使得类似模式通过连接编码更清晰, 其中每个输出神经元仅响应于有效输入神经 元的特定组合。图 6(A)和(B)显示了这 种情况如何发生。模式分解是在 DG 中实现 的,使用高阶连接减少重叠。

模式合成是一个过程,需要采集模式的 片段和填补其余的功能。采取与熟悉模式相 似的模式,使它更加类似于它。计算模拟已 经表明 ,CA3 区域组合分离的模式特征和合 成,使得中等和高度重叠,导致模式合成并 保存在记忆中, 而重叠较少的模式导致创建 一个新的记忆,如图 6(C)所示。这种情况下,当环境输入在 ERC 中产生类似于先前模 式的模式时,CA3 输出更接近其先前用于该 在 ERC 模式的模式。然而,当环境在 ERC 上产生与以前记忆模式重叠低的输入时,DG 在 CA3 中创建新的、统计独立的细胞群。新 出现的证据建议模式合成(以及海马处理的 其他特征)所需的重叠量可以发生在海马近 端末梢和背腹侧轴,并可能由神经调节因子 (如乙酰胆碱)形成。

研究指出,CA3 和 CA1 分区之间的差异 在于其神经活动模式对环境变化的响应。广 义上讲,CA1 分区倾向于反映来自在 ERC 的 输入重叠程度,而 CA3 更多显示反映模式分 解或合成的不连续响应。

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。