【心理学与AI】遗忘:适应环境的噪声和变化性

Richards, B. A. , & Frankland, P. W. (2017). The persistence and transience of memory. Neuron, 94(6), 1071-1084

有一些个体的证据表明,记住所有的东西是有代价的。
(Luria, 1968)“vast memory”是一个超忆症患者。他虽然能记住很多东西,但是他的记忆没有可塑性,不能泛化到其他事物上。

近年来比起研究记忆是如何“保持”的,更多的研究是开始关注记忆是如何“遗忘”的。

结合一些机器学习和神经计算的模型,文章提出了这样的观点:在一个变化且有噪声的环境中,人类记忆保持和遗忘这两个过程的共同作用,使依赖于记忆的决策过程得到优化。

记忆的保持

神经生物学对记忆保持的定义

很多学者认为,对过去的回忆包含了对过去的神经活动的重新激活 (e.g., Josselyn et al., 2015; Tonegawa et al., 2015)。

但是另外一种思想认为,我们现在的神经活动是过去演变过来的,也就是说现在的活动状态也可以部分反映我们过去的状态。这可能也是过去信息得以保留的一种形式 (Richards and Frankland, 2013)。这种观点的推论是,如果神经回路的改变引起了某些大脑状态激活可能性的改变,那么它可能就会促进记忆的保持。

尤其是印记细胞的研究表明,记忆的保持和神经网络形态的变化是相关的。
主要有三种证据:

  • 其一,在编码时被激活的细胞(后称“标记细胞”),在回忆时基本上也会被激活(高于随机水平的激活)(Denny et al., 2014; Reijmers et al., 2007; Tanaka et al., 2014)。
  • 其二,如果这些标记细胞在回忆任务中被阻断了,回忆会受损 (Berndt et al., 2016; Denny et al., 2014; Han et al., 2009; Hsiang et al., 2014; Park et al., 2016; Rashid et al., 2016; Tanaka et al., 2014; Zhou et al., 2009)。
  • 其三,如果将这些标记细胞进行人工激活,可以引发“回忆” (Cowansage et al., 2014; Liu et al., 2013; Ohkawa et al., 2015; Ramirez et al., 2013; Rogerson et al., 2016; Yiu et al., 2014)。
    ?这里有个问题,要看这些文章如何排除,不是这些细胞负责了回忆的功能,而是储存了相应的信息?

记忆的遗忘

遗忘是建立在对记忆是突触变化这个假设上的,也就是说,如果记忆是突触的改变,那么遗忘就是这些发生的改变被消除的过程。

对于遗忘的神经机制的研究,现在还处于非常早期的阶段。但是有一些证据可以支持这些对遗忘的假设。

人工遗忘 在分子层面对于引起LTP的受体进行干扰,可以人工“操纵”遗忘的过程。这些研究体现了,对“记忆”相关的神经过程进行干扰,可以观察到遗忘的现象。但是这种方法会干扰所有目标区域的突触,而不是只针对记忆相关的特定细胞。
也有两项研究观察条件反射的过程受特定细胞的调控作用,在干扰这些特定的细胞之后,建立的条件反射可以随着人工的调控产生遗忘和重新回忆的现象。
不仅仅是干扰电位,某些突触的剪除也会产生遗忘的现象 (Hayashi-Takagi et al., 2015)。

自然遗忘 小鼠有避光行为,但是用强烈的电刺激对避光行为进行惩罚,小鼠会更少的进行避光。但是1天之后,它又会回到原来的高的避光水平。给一部分小鼠的海马体注射奖励溶剂,发现这些小鼠1天后还能维持低的避光水平。
有很多脑内的机制是在主动的修剪这些突触的,这个有可能是遗忘的神经基础。睡眠有可能是这些过程发生的主要阶段(Tononi and Cirelli, 2006)。关于睡眠调控记忆的综述 , 见 Stickgold and Walker (2013)。

记忆和遗忘的交互

人脑有800-900亿个神经元(Azevedo et al., 2009),听起来是有足够的空间可以存储大量信息的。不知道是怎么算的,但是这个容量相当于可以存储十亿个记忆(Amit et al., 1985)。那为什么我们还要遗忘呢?
我们认为世界这个环境是变化的,而且是充满噪声的。这意味着我们要不断的整合新的信息,调整原来的认识,而且还得有差别地选择信息进行整合。
所以把所有东西都存下来并不是最好的。保留下来的东西应该是相对稳定的,对未来有较好预测能力的信息(for related viewpoints, see Dudai and Carruthers, 2005; Schacter et al., 2007)。

人工神经网络的启示

本来神经网络面临一个稳定性和可塑性的矛盾,但是最近有一些研究,通过记忆单元的动态变化来改善了这个矛盾 (Graves et al., 2016; Kirkpatrick et al., 2017; Santoro et al., 2016a)。

人的context dependent的机制也反映了这个特点 (Maren et al., 2013)。

对于动态的环境过时的信息最好赶紧丢掉,不管是不是还有空间存新信息 (Kraemer and Golding, 1997)。

最近也有研究表明,在一个动态的环境中,遗忘对于行为的灵活性非常重要 (Dong et al., 2016; Epp et al., 2016; Shuai et al., 2010)。

需要补充细节的几个地方

这篇综述我们重点关注它这个结论的支持性证据,就是它依据什么来得出这个结论。可以看一下introduction,然后从persistence X transient这个部分开始精读。Transience for Regularization 这个部分相对来说可以略读,这个是计算神经网络方面的证据,就是说abstract可以看,看不懂也不用纠结。
精读的部分大家分工一下,就是文章每句话都要写进笔记,提到的文献都下下来看一下abstract,然后写一下abstract的内容。此外,再选几篇觉得比较关键的引用文章精读一下(每人至少要精读一篇)。
我提供一些精读的推荐,也可以按照你们的想法调整:

  • (Luria, 1968)“vast memory” 超忆症患者具体表现是什么,用什么任务来确定他具有这些特征?对于这个案例还有没有后续其他研究,说明这些特征是记得东西太多/不会遗忘引起的?
  • Consistent with this idea, recent studies provide evidence that forgetting is necessary for flexible behavior in dynamic environments (Dong et al., 2016; Epp et al., 2016; Shuai et al., 2010). (根据大家的笔记,这几篇是动物神经方面的研究,讲的是动物在逆转学习任务中,遗忘的参与可以帮助更快的建立新记忆)
  • First, transience enhances behavioral flexibility by eliminating outdated information. Second, transience promotes generalization by preventing overfitting memories to specific instances from the past that may not accurately predict the future. Other authors have made similar arguments previously (Hardt et al., 2013a; Kraemer and Golding, 1997; Nørby, 2015).
  • A handful of papers have explicitly explored the advantages of transience for memory-guided decision-making (Brea et al., 2014; Fusi et al., 2007; Hunt and Chittka, 2015; Santoro et al., 2016b). (根据笔记,这部分是一些计算模型,比如果蝇的趋近和回避行为,有遗忘的参与可以更好的拟合,也可以帮助果蝇更多地探索未知的环境)
  • Given that it is possible to encounter many different environments with different temporal dynamics, a good strategy may be to rely on multiple memory systems that have different balances between persistence and transience (Benna and Fusi, 2016; Roxin and Fusi, 2013). (根据笔记,这几篇也是动物身上的研究)

你可能感兴趣的:(【心理学与AI】遗忘:适应环境的噪声和变化性)