Context-Aware Attentive Knowledge Tracing文献笔记

模型思路

一个人对某个知识点的掌握或对某个题目的理解都受到其以往做题经验的影响，而且这个影响会随着时间衰退。比如，学生A和B都依次做了（a,b,c,d,e)五个题目，A的答题记录是(1,0,1,1,1)，B的答题记录是(0,1,0,1,0)，那么A和B都做到题目e时，他们对其的理解是不同的，即同一个题目对不同做题经验的人来说含义不同（在模型里表现为表征这个题目的vector x 并不是固定的，而是会随着人变化）；而对于同样的题目d，学生A和B的response都是1，但是这两个学生答对这个题目后对自身知识的更新结果是不一样的（在模型里表现为答对或答错这个题目之后，知识更新vector y 并不一样）。本文使用context-aware attention的机制来引入这个影响。

模型设置

模型示意图

1. Rasch model-based Embeddings
   把原始的题目vector x 和表征题目-反应的vector(原文为raw question-response embeddings) y 纳入到Rasch Model模型中：
   $$\begin{gathered} {\mathbf{x}}_t={\mathbf{c}}_{c_t}+{\mu }_{q_t}\cdot {\mathbf{d}}_{c_t}, \\ {\mathbf{y}}_t={\mathbf{e}}_{(c_t,r_t)}+{\mu }_{q_t}\cdot {\mathbf{f}}_{(c_t,r_t)} \end{gathered}$$
   其中${\mathbf{c}}_{c_t}$代表这个题目对应的概念或知识embedding vector，${\mu }_{q_t}$是一个标量，代表题目难度（我理解为对应Rasch model的$\beta$参数），${\mathbf{d}}_{c_t}$代表这个概念上所有题目的变异(variation)。${\mathbf{e}}_{(c_t,r_t)}$和${\mathbf{f}}_{(c_t,r_t)}$则分别代表concept-response的embedding vector和variation vector。
   这个模型把一个题目用其对应的concept embedding和所有与该题目concept相关的题目的变异来表示，相当于在concept embedding的每一个concept上都以$mean+{\mu }_{q_t}\cdot sd$来表示，concept相同上的不同题目只有${\mu }_{q_t}$变化，代表的是这个题目与平均难度差多少。
   对于question-response $y_t$，同样的用$mean+{\mu }_{q_t}\cdot sd$表示为
   
   其中$e_{(c_t,r_t)}$表示的是concept-response的embedding，$f_{(c_t,r_t)}$代表其对应concept的所有concept-response embedding的变异。为了减少要估计的参数，作者将$e_{(c_t,r_t)}$定义为$e_{(c_t,r_t)}={\mathbf{c}}_{c_t}+{\mathbf{g}}_{r_t}$，${\mathbf{c}}_{c_t}$跟题目向量$x_t$中的${\mathbf{c}}_{c_t}$相同，${\mathbf{g}}_{r_t}$只有两个可能的值，${\mathbf{g}}_0$和${\mathbf{g}}_1$分别代表答错和答对的反应向量，对所有concept都相同。
   ？参数怎么估计呢？文中没有详细讲怎么用Rasch model来估计这些参数，看上去题目和反应都用向量来表示，用的就应该是MIRT模型。

2. Question encoder & Knowledge encoder（context-aware representation）
   如前文所述，这篇文献认为当某个学生t时刻遇到一个问题q_t时，对这个问题的理解会受到之前做题经验的影响，故而对当前问题的理解${\hat{\mathbf{x}}}_t$有${\hat{\mathbf{x}}}_t=f({\mathbf{x}}_1,...,{\mathbf{x}}_{\mathbf{t}})$，从当前问题获取的知识${\hat{\mathbf{y}}}_t$有${\hat{\mathbf{y}}}_t=f({\mathbf{y}}_1,...,{\mathbf{y}}_{\mathbf{t}-1})$。这里得区分下$\widehat{{\mathbf{x}}_{\mathbf{t}}}$、$\widehat{{\mathbf{y}}_{\mathbf{t}}}$和${\mathbf{x}}_{\mathbf{t}}$和${\mathbf{y}}_{\mathbf{t}}$。${\mathbf{x}}_{\mathbf{t}}$代表t时刻遇到的题目，（我的理解就是${\mathbf{x}}_{\mathbf{t}}={\mathbf{q}}_{\mathbf{t}}$，即一个代表当前题目是第几个题目的独热编码向量），而$\widehat{{\mathbf{x}}_{\mathbf{t}}}$经过encoder之后代表的是这个学生对当前问题的理解，即这个题目对当前学生意味着什么。再举个更具体的例子，假如张三在做一个题目，这个题目包含了加减法和乘除法两个知识点，但张三之前已经做了100个加减法的题目了，那么受到之前做题经验的影响，这个题目其实对张三来可能主要是乘除法的问题（因为加减法已经太熟练了）。但如果是一个从来没做过加减法题目的李四遇到这个问题，这个题目就既是加减法题目也是乘除法题目。再来说${\mathbf{y}}_{\mathbf{t}}$和$\widehat{{\mathbf{y}}_{\mathbf{t}}}$，原始的${\mathbf{y}}_{\mathbf{t}}$代表question-response embedding vector，对于每个题目来说，只有做对的vector和做错的vector两种，但是经过编码之后，$\widehat{{\mathbf{y}}_{\mathbf{t}}}$对每一个人可能都不一样，因为它加入了每个人独特的做题经验。
   具体计算过程就是:
   $${\hat{\mathbf{x}}}_t=\sum _{i=1}^t{a}_i\cdot x_i,$$
   $${\hat{\mathbf{y}}}_{t-1}=\sum _{i=1}^{t-1}{a}_i^{\cdot }{y}_i,$$
   其中$x_t$是学生在t时刻做的题目的原始编码，$a_t$是这个题目对应的attention权重。$y_{t-1}$用同样的方法计算，区别在于只计算到t-1时刻的y。
   这个$a_t$的权重计算方式即为本篇文章标题中的Context-Aware Attention，
   
   其中，
   
   进一步其中，
   
   下面对这几个计算公式进行一下分析，首先$a_{t,\tau }$就是对一个学生的整个做题记录的注意进行softmax归一，$s_{t,\tau }$中的$\frac{q_t^T{k}_{\tau }}{\sqrt{D_k}}$这部分是DKVMN的一个常规查询操作，而前面的$d(t,\tau )$这个函数就是用来“查询context”的。这里用$|t-\tau |$代表的是查询的两个题目之间的次序之差，而后面一部分的求和项相当于查询的两个题目之间有多少相同概念的题目，而且这里说的多少也不是单纯的个数，而是DKVMN查询并归一化后的有多少相同成分的多少。假如说，从$\tau$时刻的题目到t时刻的题目之间，没有任何有相同概念的题目的话，我们就不对$\tau$时刻题目的影响进行衰减，就相当于把同样概念的$\tau$时刻和t时刻的两个题目是连续做的（实际上中间可能间隔了其他概念的题目）。
   引入了context-aware的距离$d(t,\tau )$之后，用这个距离来计算context-aware的attention。$s_{t,\tau }$一式中还有一个$\theta$，这个是一个学习到的decay参数。

3. Knowledge Retriever
   这一部分同样使用DKVMN查询，以t时刻题目的$\widehat{q_t}$与之前所有题目的$k_i$相乘，然后经过Monotonic Attention的衰减后与i时刻用户的知知识状态相乘（我的理解：存在一个比较固定的知识DKVMN，用i时刻用户的item-response向量作为query查询到的value，代表这个时刻用户的只是状态），最后求和得到$h_t$，这个$h_t$代表经过前面所有题目经验的积累，用户对当前题目的理解。（我感觉这像是用t时刻的题目query之前所有时刻的知识状态，然后衰减后求和作为当前的知识状态）

模型效果

在三个不同的公开数据集都得到了最佳的预测效果，其中ASSISTment2009和ASSISTment2017因为有知识点标注，所以可以用Rasch model进行embedding（AKT-R模型中的R代表使用了Rasch model进行embedding）。
可以看到context-aware attention 和 Rasch model embedding这两个操作分别都能提高模型表现。此外，Rasch model embedding还能将不同的题目映射到同一个embedding空间里，在这个空间里同一个concept的题目会被映射到一起，但是又能区分这些题目的难度。