及时了解学生对知识的掌握程度, 是个性化教育中的关键一环.一旦老师能够及时掌握学生的知识状态, 他们就可以凭借经验或者借助工具预测学生在未来的学习表现, 并且帮助学生规划个性化学习路径.学生的知识状态往往在完成作业的过程中得到体现.随着教育信息化的逐步普及, 在线教育平台如慕课(MOOC)、智能辅导系统(intelligent tutoring system, ITS)等, 已经在教学过程中得到了广泛应用, 并且累积了大量学生解题的数据.而学生的知识状态正蕴含在这些海量的数据中.

知识追踪(knowledge tracing, KT)是根据学生过去的解题表现完成两个任务: 1) 评估学生对各个知识点的掌握水平(即获取学生的知识状态); 2) 预测学生在之后的解题表现.知识追踪任务一般通过构建学生模型来完成.过去20年中, 知识追踪模型可大致归纳为以下3种: 项目反应理论模型(item response theory, IRT)^[1]、贝叶斯模型(Bayesian knowledge tracing, BKT)^[2]和因子分析模型(knowledge tracing based on factors analysis)^[3].

IRT模型在1950年代被实验性地使用在教学场景中^[1].它建立一个简单的函数关系, 根据学生的能力等级和题目的难度来预测学生正确解答当前题目的概率.IRT模型基于以下简单的假设: 一个学生能力更高, 那么他更有可能正确解答题目; 另一方面, 如果一个题目难度更高, 那么它被正确解答的可能性就更低.尽管IRT模型简单易用, 但是它并没有考虑到学生的能力(即知识状态)会随着学习的深入而发生改变.20世纪90年代提出的BKT模型^[2]使用了隐马尔可夫模型, 通过观察学生能否正确答题来模拟他们的知识获取过程.最早的BKT模型使用4个变量来模拟学习过程: 初始掌握概率P(L₀)、从未掌握到掌握的转移概率P(T)、未掌握知识点的情况下猜对题目答案的概率P(G)、已掌握知识点的情况下做错题目的概率P(S).尽管很好地模拟了学生解题过程中知识状态的改变, BKT模型并没有考虑学生能力的差异以及包含相同知识点的不同题目的区别, 因此在实际教学过程中较难被应用.2000年以来, 一系列基于因子分析的逻辑回归模型被陆续提出, 代表模型包括学习因子分析(learning factors analysis, LFA)^[3]、表现因子分析(performance factors analysis, PFA)^[4]以及教学因子分析(instructional factors analysis, IFA)^[5].LFA沿用了IRT理论中的假设, 并且考虑了学生解答某个知识点的题目所花费的次数, 因此在模型中融入了学生能力的差异.PFA在LFA的基础之上增加了两个变量, 用来表示学生对某个知识点相关题目答对和答错的次数.IFA则在PFA的基础之上, 考虑了教学过程中教师对于某个知识点的讲述次数, 因此综合考虑了学生学习和教师教授的因素.关于传统知识追踪模型的详细结构, 读者可以阅读刘恒宇等人的综述工作^[6]以获得全面了解.

上述概率模型虽然具备很好的解释性, 但需要基于理论假设, 人为地去构建模型的输入特征.而特征构建往往具有片面性和局限性, 并不能充分挖掘数据中隐藏的信息, 因此模型的预测效果一般.例如, 这些模型忽略了知识点之间的依赖关系, 也无法模拟学习的遗忘规律.随着教育大数据的爆发和深度神经网络的复兴, 使用深度学习技术来解决知识追踪问题, 成为过去几年引人关注的一个研究热点.相较于传统概率模型, 基于深度神经网络的模型可以直接从海量的解题数据中学习能够代表学生知识状态的特征, 从而避免了特征构建, 充分挖掘了数据本身蕴含的信息, 并且在预测学生未来的表现时取得了突破性的性能提升(预测能力是衡量知识追踪模型性能的重要指标).Liu等人^[7]整理归纳了知识追踪模型的演进过程, 但是并未对深度模型的性能进行量化比较.本文在总结主要深度知识追踪模型的基础上遴选出最具代表性的8个模型和5个公开数据集, 通过实验全面比较模型性能的差异.

综上所述, 本文回顾了近年来深度知识追踪领域的一系列代表性工作.我们根据模型所采用的骨干结构, 将这些模型分成4个大类, 并进行详细阐述.然后, 针对其中8个最具代表性的模型进行实验并比较性能.接着, 我们给出了几个深度知识追踪模型在实际教学中的应用案例.最后, 我们对深度知识追踪的未来研究方向做出展望.

1 深度知识追踪

2015年, Piech等人^[8]首次提出运用深度神经网络构建知识追踪模型, 即基于循环神经网络的DKT (deep knowledge tracing)模型.DKT将学生过去的解题表现转化为时间序列, 输入一个循环神经网络(recurrent neural network, RNN), 输出为该学生正确解答每一道题的概率, 然后通过反向传播预测概率与真实表现(即每一道题是否正确解答)差异的损失函数来训练模型参数.其详细结构如图 1所示.

图 1中, x_t=(q_t, r_t)为输入时间序列中t时刻的输入; q_t代表t时刻的习题编号, r_t代表该习题是否被正确解答, 两个变量均使用独热编码.x_t也称为响应元组.当题目数量巨大时, DKT可选择用降维将x_t嵌入成一个低维向量v_t, 缩小特征空间.随后, DKT使用RNN计算每个时刻的隐层向量h_t, 用来表示学生在该时刻的知识状态.t时刻的知识状态h_t由当前时刻的输入x_t和t−1时刻的知识状态h_t−1计算得到, 其公式为:

$h_t=\phi\left(v_t, h_{t-1}, \omega\right)$

(1)

其中, $h_t \in \mathbb{R}^k$, ω为权重矩阵, φ是RNN的计算单元.获得t时刻的知识状态表示h_t之后, RNN可以通过非线性映射计算学生正确解答下一道习题(即t+1时刻的习题)q_t+1的概率y_t+1, 其公式为:

$y_{t+1}=\delta\left(q_{t+1}\right) \sigma\left(\omega \cdot h_t+b\right)$

(2)

其中, σ(⋅)是Sigmoid函数, $\omega \in \mathbb{R}^{Q \times k}$是权重矩阵, $b \in \mathbb{R}^Q$是偏置, δ(⋅)代表独热编码.最后, DKT通过计算y_t+1和r_t+1的差异建立损失函数, 累加并反向传播整个时间序列的损失来调整模型参数.具体实现时, DKT的计算单元可以使用RNN、长短期记忆模型(long short-term memory, LSTM)或者门控循环单元(gate recurrent unit, GRU)来实现, 在不同的数据上, 可能会取得不同的表现.

DKT模型的提出, 是深度神经网络在知识追踪领域的首次尝试.它可以对学生未来的解题表现做出较为准确的预测.但DKT模型认为每道题仅包含一个知识点, 包含相同知识点的题目均相同, 因此模型无法捕捉涵盖相同知识点的不同题目的区别.受到DKT模型的启发, 研究人员提出了一系列基于深度神经网络的模型来改进知识追踪的效果.

2 深度知识追踪模型的演化

深度知识追踪模型的演化历程和其所采用的神经网络结构息息相关, 其中有3种主流结构受到了研究人员的青睐: 首先, 鉴于学生解题的过程形成了时间序列数据, 在深度神经网络复兴之初, Piech等人^[8]提出了基于循环神经网络的知识追踪模型; 随后, 为了提高模型隐层状态捕捉时间序列中历史信息的能力, Zhang等人^[9]构建了基于记忆网络^[10]的模型; 接着, 在自注意力机制^[11]被应用于处理序列数据之后, Pandey等人^[12]提出了基于自注意力架构的模型, 以期更好地捕捉知识点之间的关联关系.针对上述每种基础结构, 研究人员提出了各种改进方法, 提高模型的预测能力和在真实教学场景中的适用性.这些改进方法也可以大致分为3类: 改进模型的基础结构、增加额外的解题特征以及模拟经典的教育理论.除了上述3种主流结构以外, 一些工作也尝试使用其他神经网络构建模型, 如卷积神经网络和图神经网络.还有部分工作研究如何针对特殊教学情形构建模型, 如构建针对不同教学机构学习数据的联邦学习和不同学科数据的迁移学习模型.

基于上述分析, 本节将现有工作分成4节进行叙述.其中, 前3节分别介绍基于循环神经网络的模型、基于记忆网络的模型和基于自注意力机制的模型, 每一节的模型依据上述3种不同的改进方向进行分类和叙述; 最后一节则介绍有别于上述3种主流结构的工作, 由于这部分工作较少, 我们将不对它们进行细分.

2.1 基于循环神经网络的模型 2.1.1 改进模型的基础结构

为了提高DKT模型捕捉序列数据中长期依赖的能力, Sha等人^[13]利用双层堆叠LSTM (stacked LSTM)模拟学生的解题序列, 如图 2所示.Stacked LSTM将两个LSTM网络纵向堆叠起来, 并使用残差网络将原始输入与首层LSTM的输出合并以防止网络退化.在输出端, 他们认为隐层的学生知识状态与预测正确答题概率的输出之间存在更加复杂的关系, 因此, 他们尝试使用均值法、最小值法、和增加全连接层等方法对隐层知识状态进行处理, 然后用于预测输出.

另一方面, DKT将学生的学习状态表示为一个隐藏向量, 其特征表达能力略显不足.为了增加对单个知识点掌握状态的表示能力, Liu等人^[14]提出了EKT (exercise-aware knowledge tracing)模型.该模型引入一个隐层状态矩阵H_T以代替RNN的隐层状态向量h_T, H_T中的每个列向量即代表学生在T时刻对一个知识点的掌握程度.为了更新H_T, 模型需要知道T时刻习题对各个知识点的影响程度.为此, 模型又引入一个静态查询矩阵M, 它的每一个列向量代表一个知识点, 然后通过计算M中每个列向量与输入习题向量的余弦相似度, 得到输入习题对各个知识点的影响权重.最后, EKT将每个时刻的输入与每一个知识点的权重相乘, 通过LSTM计算单元更新相应的知识点掌握程度向量.在输出端, 他们实现了马尔可夫模型和注意力机制两种结构, 模型结构如图 3所示.左图的输出端基于马尔可夫模型, 即T+1时刻隐层状态H_T+1仅依赖于前一时刻的隐层状态H_T; 右图使用了注意力机制, 利用已经解答的习题嵌入与当前正在解答的习题嵌入的相似性作为权重, 将过去的隐层状态加权求和, 得到T时刻的注意力隐层状态H_att, 作为预测T+1时刻解答正确概率的隐层输入.

此外, DKT模型在输出端没有显示地模拟学生知识状态和下一道习题知识点的关联关系, 因此预测能力受到一定的限制.鉴于此, Lee等人^[15]提出了知识查询网络KQN (knowledge query network), 用来直观地描述知识状态和习题的交互关系, 如图 4所示.Lee认为, 若将学生当前的知识状态v_t和概念k_i看作二维向量, 则两者的内积可以直观地被看作该学生在对于当前概念k_i的理解程度.因此, KQN把当前知识状态的隐层向量与下一习题所对应的知识点的向量做点积, 将得到的结果作为一个逻辑函数的输入, 预测学生正确解答下一习题的概率.

2.1.2 增加额外的解题特征

DKT模型仅仅采用了习题知识点和学生解答作为输入特征, 对于学生解题过程的特征利用不够充分.事实上, 学生在解题过程中还会形成在同一道习题尝试的次数、解答当前习题所花费的时间、当前习题的内容信息等多种异质特征.因此, 研究人员提出了各种方法在模型中引入这些特征.

Yang等人^[16]提出了基于决策树的DKT模型(tree-based DKT), 采用决策树对原始数据进行预训练, 自动选取各种异质特征输入到DKT模型.他们采用了随机森林和梯度提升决策树训练分类器, 预测学生能否正确解题.然后将决策树预测的结果向量和DKT的缺省输入向量拼接, 输入到RNN结构中.

Zhang等人^[17]提出使用自编码器来学习异质特征, 使得模型输入能够结合更丰富的特征.在输入端, 多个特征进行编码和拼接, 再经过自编码器降维, 得到的特征向量输入至模型.这样, 隐层状态将包含更加丰富的学生答题历史信息.

Su等人^[18]提出了结合习题内容的EERNN模型(exercise-enhanced recurrent neural network).在DKT的基础之上, EERNN将习题文本内容作为额外的特征输入到RNN中.其详细结构如图 5所示.在模型的输入端, EERNN首先将习题q_T中的单词(或中文的词组)嵌入成低维向量, 然后使用双向LSTM获得前向和后向两个隐层表示, 并拼接成为每个单词的隐层向量v_t.接着, 利用基于习题中M个单词的最大池化运算, 得到q_T的全局嵌入x_T=max(v₁, v₂, …, v_M).最后根据学生的解题表现r_T, 用全零向量扩展x_T, 得到最终的输入向量${\tilde {x}_T}$.其公式为:

${\tilde {x}_T} = \left\{ {\begin{array}{*{20}{l}} {[{{x}_T} \oplus {a_T}],{\text{ if }}{r_T} = 1} \\ {[{a_T} \oplus {{x}_T}],{\text{ if }}{r_T} = 0} \end{array}} \right.$

(3)

其中, a_T为维度和x_T相同的全零向量; ⊕为向量拼接操作; r_T为1代表解答正确, 为0代表解答错误.随后, 根据输入的习题序列, 模型使用LSTM或者GRU来学习和更新隐层状态h_T.在输出端, EERNN采用了和EKT相似的两种方式获取用于预测的隐层状态, 即基于马尔科夫性质和注意力机制的方法.

Wang等人^[19]提出了DKTS模型(DKT with side information), 将题目之间基于知识点相似性的相关关系作为辅助信息.他们将这种相关关系构建成图, 如果两个习题之间的知识点相似, 则用一条边将它们连接起来, 然后利用图嵌入算法, 可以生成包含题目相关关系的习题特征向量, 输入到DKT模型.在输出端, 利用相关关系图可以计算一个正则项加入损失函数中, 更好地控制正确解答具有相关关系的题目的预测概率.

Sonkar等人^[20]提出了qDKT模型(question-level deep knowledge tracing), 基本沿袭了DKT的架构.不同的是: qDKT的输入粒度精确到题目, 而不是知识点, 并且评估了学生对了每一道题的掌握情况.

Liu等人^[21]认为, 在模型中加入习题特征和学生行为特征有助于提高预测学生答题对错的准确率, 并提出把RNN网络和注意力机制相结合.他们把所有可用特征合并及降维后输入到模型中, 经过RNN结构, 输出学生的知识状态, 再通过注意力机制, 从输入特征中提取关键信息, 对过去的知识状态赋予不同权重并加权求和, 得到经多特征以及注意力机制加强后的知识状态, 最后预测学生能否正确解题.

Tong等人^[22]将题目文本信息加入RNN模型的输入中.他们用BERT (bidirectional encoder representations from transformers)生成题目文本的特征向量, 并使用TextCNN (text convolutional neural networks)模型从中获取题目的知识分布特征以及难度特征; 计算题目文本向量的相似性, 使用层次聚类方法提取题目的语义特征.然后将所提取的特征以及学生响应输入到RNN结构中, 预测学生答题结果.

Zhang等人^[23]提出了相似的模型架构, 但在输入特征上有所不同.他们使用异构信息网络从所有学生的答题记录中获取题目难度以及区分度, 得到题目的嵌入表示, 再输入到RNN与注意力相结合的模型中.

Yang等人^[24]指出, 由于受到数据稀疏性以及多知识点题目的限制, 现有的知识追踪模型没有使用题目和知识点之间的关联.因此, 他们提出了GIKT (graph-based interaction model for knowledge tracing)模型.在LSTM的基础上, 用基于图卷积网络(graph convolutional networks, GCN)的方法, 融合题目与知识点之间的关联信息.

2.1.3 模拟经典的教育理论

另一个针对基础模型的改进方法, 是在模型中融入能够模拟教育理论的结构或者特征, 使所得到的模型更加适用于真实的教学场景.

Chen等人^[25]认为, 知识点之间的先决条件关系, 也应该作为一个重要的特征加入DKT模型中.假设知识点1为知识点2的先决条件, 那么掌握知识点1, 才更有正确解答关于知识点2的习题.因此在模型的输入端, 他们增加了一个先决条件关系矩阵, 将知识点之间的先决条件作为一种约束条件添加到模型输入中.

Minn等人^[26]认为, 学生个人能力的差异对知识状态的改变有巨大影响, 因此在模型中, 应该将学生学习能力作为一个重要因素加以考虑.为此, 他们提出了一种基于动态学生分类的深度知识追踪模型DKT-DSC (deep knowledge tracing and dynamic student classification).DKT-DSC根据学生过去的解题表现, 使用动态聚类将学生每隔一段时间划入不同的类别, 每个类别中的学生被认为具有相似的学习能力.然后, 模型将聚类结果(即学生能力)作为额外的输入特征与DKT相结合.其详细结构如图 6所示, 左边部分为动态聚类的示意图.每隔一段时间, DKT-DSC会根据统计学生过去对于每个知识点的答题表现, 作为对学生学习能力的评估.评估的方法如公式(4)−(7)所示.

$Correct{({k_j})_{1:z}} = \sum\limits_{t = 1}^z {\frac{{({k_{jt}} = = 1)}}{{|{N_{jt}}|}}}$

(4)

$Incorrect{({k_j})_{1:z}} = \sum\limits_{t = 1}^z {\frac{{({k_{jt}} = = 0)}}{{|{N_{jt}}|}}}$

(5)

$R(k_{j})_{1:z}=Correct(k_{j})_{1:z}−Incorrect(k_{j})_{1:z} (6)$

(6)

$d_{1:z}^i = (R{({k_1})_{1:z}},R{({k_2})_{1:z}},...,R{({k_n})_{1:z}})$

(7)

其中, Correct(k_j)_1:z和Incorrect(k_j)_1:z表示学生在过去z个时间段中答对或答错知识点k_j的比率; |N_jt|是到t时间段为止, 知识点k_j出现过的总次数.R(k_j)_1:z用答对和答错知识点k_j的比率差值表示学生对该知识点的学习能力.最后, 向量$d_{1:z}^i$代表学生在过去对于所有知识点的学习能力.利用代表学生学习能力的向量, DKT-DSC在每个时间段用K-means对学生进行聚类, 得到学生的学习能力类别向量c_t, 然后与原始DKT的输入x_t进行拼接, 作为DKT-DSC模型的输入, 其结构示意图如图 6右半部分所示.

Nagatani等人^[27]认为应该模拟学生在解题过程中的遗忘规律.学生的遗忘行为主要受两个因素的影响: 1) 和上一次解答相同知识点题目间隔的时间; 2) 过去针对同一知识点的解题次数.这一假设基于19世纪一项关于记忆力的实验^[28], 结果表明, 对特定事物的记忆随着时间推移呈指数下降, 而反复提起特定事物能够帮助避免遗忘.因此, Nagatani等人考虑了3个影响遗忘行为的特征: 重复时间间隔、序列时间间隔以及过去解题次数, 提出了模型DKT-F (deep knowledge tracing with forgetting).重复时间间隔指在同一个知识点上, 前后两次解题的时间差.序列时间间隔指学生在解题过程中, 每两题之间的时间差.过去解题次数指学生过去在同一个知识点上的答题次数.模型的详细结构如图 7所示.

其基本结构复用了DKT中的RNN, 区别是在输入端, 上述3个特征的(独热)向量拼接成特征向量c_t, 并与响应元组x_t的嵌入表示v_t融合获得最终的t时刻输入向量$v_t^c$.其融合公式为:

$v_t^c = [{v_t} \odot C{c_t};{c_t}]$

(8)

其中, C是可训练的转换矩阵, ε表示逐元素相乘.$v_t^c$输入RNN计算单元后, 获得的隐层向量h_t与下一时刻的特征向量c_t+1进行整合, 再经过一层全连接层和Sigmoid激活层, 预测学生正确回答下一题的概率.实验结果表明, 增加了遗忘行为的DKT-F模型, 比DKT模型具有更好的预测性能.

类似地, Huang等人^[29]提出了基于学生学习和遗忘规律的模型KPT (knowledge proficiency tracing).他们认为, 学生在练习过程中, 时间是一个非常重要的考量指标, 很久不练习的学生会对知识点产生遗忘, 反之会不断提升解题的能力.与此同时, 文中提到, 学生在做题过程中对一道已经做错并且掌握的题目, 很少会反复尝试, 这就导致学生数据比较稀疏.因此, 他们又通过专家人工标注的方式引入了Q矩阵, 代表每个习题与知识点之间是否相关.训练时, 模型不仅预测学生在T+1时对待测习题q的结果, 还要预测在该时刻对每个知识点的熟练程度.

Long等人^[30]认为, 传统的DKT模型并没有考虑到每个学生对知识的理解以及对题目的感知能力的不同, 因此他们提出了IEKT (individual estimation knowledge tracing)模型.IEKT在原始的DKT模型上新增了认知能力评估(CE)和知识敏感度评估(KASE)两个模块.在模型做出预测之前, 可以通过CE获取学生对题目的认知能力, 使得预测结果更加具有针对性.同时, 在更新学生的知识状态时, 模型也应该通过KASE模块获取学生的实际接收能力, 更加个性化地更新学生的知识水平.IEKT提出了两个矩阵M, S, 分别代表不同等级的认知能力以及知识理解能力.在模型预测时, Long将当前时刻的题目表征v_t和上一时刻LSTM的隐向量h_t−1输入到CE模块中, 得到学生目前的状态表征:

$h_v=v_t \oplus h_{t-1}$

(9)

然后, 根据h_v从认知矩阵M中采样出符合条件的等级表征m_t, 并与h_v一起做出最终的预测:

$y={ReLU}\left(W_1 \cdot\left[m_t \oplus h_v\right]+b\right)$

(10)

${\tilde r_t} = \sigma ({W_2} \cdot y + {b_1})$

(11)

与此同时, 在更新LSTM之前, LEKT通过KASE模块, 结合学生的实际能力做出恰当的调整.考虑到学生对于当前的题目理解可能源于正确答案的启发或者自己的解答, KASE模块构造了如下两个输入:

$v_p=\left\{\begin{array}{l} h_v \oplus {\bf{0}}, \tilde{r}_t \geqslant 0.5 \\ {\bf{0}} \oplus h_v, \tilde{r}_t<0.5 \end{array}\right.$

(12)

$v_g=\left\{\begin{array}{l} h_v \oplus {\bf{0}}, r_t=1 \\ {\bf{0}} \oplus h_v, r_t=0 \end{array}\right.$

(13)

其中, 0表示维度与h_v相同的全零向量.v_p, v_g分别对应独立完成以及参考答案的情况, 最终的输入v_m=v_p⊕v_g.然后使用同CE相似的方式, 根据v_m从理解能力矩阵S中采样出当前该学生的理解能力表征向量s_t, 与原始的输入v_t结合, 对LSTM做出更新.IEKT将学生的认知和理解能力分为不同的等级, 并且在预测和更新知识状态之前都提前模拟的学生当前的能力水平, 这使得模型更加个性化且具有可解释性.

基于循环神经网络的知识追踪模型结构较为简单, 训练开销较低, 能够较为准确地预测学生在未来的答题表现.但受限于简单的一维隐层表示, 模型无法非常充分地反映学生对于各个知识点的掌握情况.因此, 学者们提出了一系列基于动态记忆网络的模型来解决这个问题.

2.2 基于记忆网络的模型

记忆网络^[10]是受到了计算机体系结构中外存的启发, 用来提高机器学习模型从时间序列中捕获长期依赖的能力.类似于循环神经网络, 记忆网络也采用循环结构, 区别在于: LSTM将历史信息存储在单个隐层向量中, 而记忆网络将历史信息存储在一个记忆矩阵中, 因此它能够捕获更大容量的历史信息.记忆网络根据外部输入, 通过读写记忆矩阵来更新矩阵存储的内容.Zhang等人^[10]构建了将传统记忆网络应用于知识追踪任务的模型MANN (memory-augmented neural network), 其详细结构如图 8所示.

模型中, M_t为记忆矩阵, 代替循环神经网络中的隐层向量h_t存储t时刻学生的知识状态.t时刻的输入x_t=(q_t, r_t)被嵌入成向量v_t, 然后与M_t中的每个向量一起计算矩阵的读权重向量$\boldsymbol{w}_t^r$(通常用内积或余弦相似度)和写权重向量$\boldsymbol{w}_t^w$(通常使用最近最少使用法则), 用来读取和更新矩阵的内容.其隐含的意义是: 若学生对于相同的题目给出了相同的答案, 则更新之前使用过的记忆矩阵向量; 反之, 若学生做了一道新的题目或者对于做过的题目给出了不同的答案, 则更新最近最少使用的记忆矩阵向量.在输出端, 模型使用$\boldsymbol{w}_t^r$对记忆矩阵加权求和, 得到的向量r_t用来计算学生正确解答t时刻习题的概率.从M_t更新到M_t+1分为清除记忆和增加记忆两个步骤.模型先用$\boldsymbol{w}_t^w$和清除向量e_t相乘, 得到M_t中每个向量应该清除的比例, 从而清除记忆矩阵中过时的信息; 然后将$\boldsymbol{w}_t^w$和增加向量a_t相乘, 得到M_t中每个向量应该增加的记忆.其背后的含义是: 根据每个时刻题目的知识点和学生答题表现, 学生可能对某些知识点的掌握变差, 同时也有可能对某些知识点的掌握变好.

2.2.1 改进模型的基础结构

MANN利用单个静态记忆矩阵存储信息, 读写操作均在同一个存储矩阵内进行.Zhang等人^[9]认为, 模型输入和预测并不是同一类型的数据, 同一存储矩阵不能同时表示习题信息与学生知识水平.因此, 如果采用单个存储矩阵并不能很好地解决知识追踪任务.他们提出了动态键值存储网络DKVMN (dynamic key-value memory network)模型, 包含一个静态的键矩阵与动态的值矩阵.键矩阵用于存储所有知识点的关联信息, 值矩阵用于存储学生对于不同知识点的掌握程度, 两者均在模型的训练中不断更新.模型详细结构如图 9所示.

模型随机初始化两个N(N为可调参数)列的矩阵, 键矩阵M^k与值矩阵M^v.读取部分, t时刻的习题编号q_t被嵌入成低维向量k_t, 通过计算k_t与M^k中每一个列向量的余弦相似度, 得到写权重向量w_t, 用于更新表示学生知识点掌握情况的值矩阵.在预测部分, DKVMN舍弃了读向量w^r, 将写向量w_t与值矩阵M^v加权求和得到对学生知识状态的评估向量r_t:

$\boldsymbol{r}_t=\sum\limits_{i=1}^N w_t(i) \boldsymbol{M}_t^v(i)$

(14)

考虑到习题内容的不同, DKVMN把读取到的知识状态评估r_t和输入习题的嵌入向量k_t进行拼接, 经过一层全连接网络, 预测该学生在下一时刻的正确答题概率p_t.矩阵的更新, DKVMN采用了与MANN一样的方法.DKVMN使用了两个记忆矩阵分别存储知识点信息与学生的知识状态信息, 解决了MANN中单个矩阵无法同时表达习题信息与学生知识掌握水平的问题.

Abdelrahman等人^[31]认为, 对当前题目解题结果的预测与历史做题记录中不包含相关知识点的题目没有关联, 因此提出了顺序健值存储网络模型SKVMN (sequential key-value memory network).该模型在DKVMN的模型基础上加以改动, 仅参考历史做题记录中与当前题目知识点相关的题目, 来预测学生在当前题目上的解题表现.

如图 10所示, SKVMN在读取部分与原始模型一致, 然而模型全连接部分并没有直接输出预测结果, 而是将当前时刻的隐层向量f_t作为时序序列输入改造的LSTM网络中(hop-LSTM).

与传统LSTM不同, Hop-LSTM序列层各单元按照依赖关系进行连接, 而依赖关系由写权重向量w_t来决定.由于w_t表示题目与不同知识点之间的相关性, 因此模型通过w_t判断不同题目之间知识分布的相似性.这一步通过三角隶属函数(triangular membership function)^[31]来完成, 计算方法如公式(15)所示.

$\mu (x) = \max \left( {\min \left( {\frac{{x - a}}{{b - a}},\frac{{c - x}}{{c - b}}} \right),0} \right)$

(15)

其中, x是权重向量中每一个位置上的值, a, b, c是超参数.通过该函数, 可以将权重向量中每一个位置的值分别分为3个等级, 用0(低), 1(中), 2(高)来表示知识点与题目相关性的强度, 获得的新的特征向量, 即为输入的题目与各个知识点之间相关性的表示.如果当前t时刻的题目的特征向量与t−λ时刻的题目特征向量相同, 且t−λ时刻与t时刻没有其他与它们特征向量相同的题, 则认为这两道题目涉及的知识点是相同的, 两者在序列上存在依赖关系, 用q_t−λ←q_t表示.

模型只将相关题目的LSTM单元循环连接, 反向传播时只更新序列相关的LSTM单元的参数, 不相关的LSTM单元参数则不更新, 其余参数如嵌入矩阵、权重矩阵和偏置向量等, 在每一轮反向传播中均迭代更新.模型最后的预测结果通过Sigmoid函数激活.在更新表示学生知识水平状态的值矩阵过程中, DKVMN没有考虑当前学生的知识水平信息, 因此在SKVMN中, 将当前的知识状态用读取过程的总结向量来表示, 和当前学生的实际答题结果一起作为输入来更新值矩阵, 如图 11所示.SKVMN模型把DKVMN模型与LSTM模型相结合, 综合了循环建模能力和存储能力的优势.通过对LSTM加以修改, 提出了Hop-LSTM, 每次对相关性高的序列进行建模, 减少序列长度, 提高预测效率.并且在更新值矩阵过程中加入当前的知识状态信息, 以平滑对知识点掌握程度的预测.

2.2.2 增加额外的解题特征

在以往的模型中, 学生对提示的使用信息往往没有被使用到或者使用提示的被判定为解答错误.Chaudhry等人^[32]认为, 提示信息的使用能够很好地反映学生的能力, 即提示使用越多的人可能能力越差; 相反, 能力强的学生往往很少使用提示.基于此, 他们在DKVMN的基础上进行了改进, 引入学生对提示的使用作为特征, 将单任务模型变为多任务协同预测.模型结构如图 12所示.

他们保留了DKVMN的网络结构, 在更新值矩阵部分增加了一维向量h_t, 用于表示是否使用提示.模型输出两个预测结果: 正确率p_r和使用提示的概率p_h.两项任务参数共享, 协同训练, 提升了预测的准确率.在学习过程中, 如果学习者陷入某个特定的难题, 那么许多学习平台都会以提示的形式提供学习帮助.因此, 预测何时需要提供提示选项对于提示的合理使用至关重要.何时进行提示和对学习者知识状态的评估有密切关系, 多任务DKVMN将提示预测任务与知识追踪任务一起建模, 一定程度上改善了模型效果.

Sun等人^[33]认为, 更多的输入特征能够提升模型预测的准确性.因此, 他们引入回归树(classification and regression tree, CART)来对数据集中所有特征进行筛选, 并将最终的分类结果与习题编号q_t拼接作为输入向量, 再使用DKVMN进行预测.CART决策树对特征的预抽取能够更好地表示学生做题习惯, 提升模型准确率.

受到DKT-DSC的启发, Minn等人^[34]将该想法迁移到DKVMN中, 提出了DKVMN-DSC (DKVMN and dynamic student classification)模型.在预测的同时, 按照做题表现和题目难度对学生的能力进行分类, 将学生能力作为额外特征输入, 使得最终预测精度有所提升.

为了使用更多的外部信息(如提示使用情况、题目尝试次数等等), Sun等人^[35]在上述工作的基础上又增加了XgBoost (extreme gradient boosting)模块, 用来筛选模型的输入.他们将学生的做题情况、提示使用情况以及尝试次数等等信息输入到XgBoost中, 通过预测能否作对该题来对大量的输入特征做筛选和提取, 然后使用类似于DKVMN-DSC的想法, 通过对不同时间段学生的学习能力进行分类来提升模型的准确率.

2.2.3 模拟经典的教育理论

Ha等人^[36]认为, 传统的DKVMN模型写入过程仅考虑了当前时刻响应, 并没有考虑学生之前的知识状态, 并且高估了在值矩阵更新过程中产生的遗忘.他们引入了自适应知识增长和负影响惩罚项, 分别改善了原始DKVMN模型在学习和遗忘过程中存在的问题, 更好地模拟真实的学习和遗忘的过程.

Yeung等人^[37]认为, 原始的IRT考虑了题目难度和学生的能力水平, 模型更具有可解释性.因此, 他们在DKVMN的基础上进行了改进, 在预测部分并没有直接预测答题正确概率, 而是使用两个仿射变换分别表示学生的能力和题目难度, 再使用IRT的方法对答题结果进行预测.

Gan等人^[38]同样使用DKVMN模型与IRT模型的结合.模型考虑截至当前时刻的知识状态以及前H题的学习历史对当前做题表现的影响, 得到当前总体知识状态; 结合当前知识点特征以及其余相关知识点特征得到当前习题的总体嵌入; 通过学生学习历史得到当前习题的难度向量.将以上3个向量分别进行放射变换, 得到IRT的学生能力、习题区分度、习题难度这3个参数, 以对学生答题结果进行预测.

为了显式地学习不同知识概念之间的关系, Ghodai等人^[39]提出了DGMN (deep graph memory networks)模型.Ghodai认为, 我们可以通过DKVMN中的知识矩阵M^k和能力矩阵$M_t^v$构建一个潜在的概念图(latentconcept graph, LCG), G=(V, E, ω).其中, V表示知识点的数量, 对应知识点矩阵M^k的行; ω表示自定义的相似度函数(如余弦相似度).他们认为, 可以通过学生当前对不同知识点的掌握程度来反推它们之间的联系.因此, 他们将不同知识点之间的边做如下定义:

若$\omega (M_t^v(i),M_t^v(j)) \geqslant \mu$(μ为常数), 则知识点c_i和c_j之间存在边; 否则不存在.其中, $M_t^v(i),{\text{ }}M_t^v(j)$分别对应矩阵$M_t^v$中的第i列和第j列, 代表该学生对第i和j个知识点的掌握情况.

同时, Ghodai使用GCN算法得到节点的表征H(i), i∈{1, 2, …, N}.最后对节点进行加权求和, 得到LCG的最终输出向量z_t, 计算方式如下:

${z_t} = {\text{Tanh}}\left( {\boldsymbol{W}{{\left( {\sum\limits_1^N {{w_t}(i)H(i)} } \right)}^T} + b} \right)$

(16)

其中, $\boldsymbol{W} \in {\mathbb{R}^{N \times {d_k}}}$为参数, w_t(i), i∈{1, 2, …, N}为DKVMN中的写权重向量.

最后, 将DKVMN得到的评估向量r_t与z_t拼接, 进行最后的预测:

$p_{t}=δ(q_{t})σ(W[z_{t},r_{t}]+b)$

(17)

2.3 基于自注意力机制的模型 2.3.1 改进模型的基础结构

随着机器翻译的发展, 以Transformer为基础的自注意力模型得到了广泛应用.DKT和DKVMN都将隐藏单元视为学生的知识状态, 但在历史数据稀疏、学生只与少量知识点交互的情况下, 上述方法的性能并不理想.为了解决这些问题, Pandey等人^[12]提出了一个基于自注意力的知识追踪框架SAKT (self-attentive model for knowledge tracing).它能从学生过去与习题的交互中识别特定知识的状态, 并根据这些知识状态进行预测.其模型结构如图 13所示.

首先, 在嵌入层将历史交互行为X=(x₁, x₂, …, x_t) (x_i=(q_i, r_i))编码成S=(s₁, s₂, …, s_t); 然后, 通过训练得到嵌入向量矩阵$M \in \mathbb{R}^{2 E \times d}$, 其中, E是总习题数量.类似地, 他们还将习题序列Q=(q₁, q₂, …, q_t)编码为矩阵$\boldsymbol{E} \in \mathbb{R}^{E \times d}$.此外, 为了获得位置信息, 他们使用与Transformer相同的位置编码方式: $P \in \mathbb{R}^{n \times d}$ (其中, d是嵌入维数), 并将其与M相结合.输入矩阵变换为:

$\hat M = \left[ {\begin{array}{*{20}{c}} {{M_{s1}} + {P_1}} \\ {{M_{s2}} + {P_1}} \\ {...} \\ {{M_{{s_n}}} + {P_n}} \end{array}} \right],{\text{ }}\hat E = \left[ {\begin{array}{*{20}{c}} {{E_{s1}}} \\ {{E_{s2}}} \\ {...} \\ {{E_{{s_n}}}} \end{array}} \right]$

(18)

该模型将$\hat M$和$\hat E$分别输入到自注意层, 作为编码器和解码器的输入.再利用多头缩放点积自注意力机制(multi-head scaled dot product self-attention), 学习当前习题与历史交互行为的关系:

$Q = \hat E{W^Q},{\text{ }}K = \hat M{W^K},{\text{ }}V = \hat M{W^V}$

(19)

$Attention(Q,K,V) = softmax\left( {\frac{{Q{K^T}}}{{\sqrt d }}} \right)V$

(20)

$Multihead(\hat M,\hat E) = Concat(hea{d_1},hea{d_2},...,hea{d_h}){W^O}$

(21)

其中, $W^Q, W^K, Q^V \in \mathbb{R}^{d \times d}$分别是查询、键和值投影矩阵.为了共同处理来自不同表征子空间的信息, 他们使用不同的线形变换将Q, K, V投射到h个维度相同的子空间.为了将非线性特征纳入模型并考虑不同潜在维度之间的相互作用, 他们使用了一个前馈网络(FFN), 最后, 通过线性投影预测学生的表现, 输出学生正确解答习题的概率.

Choi等人^[40]提出了SAINT (separated self-attentive neural knowledge tracing)模型, 引入了Transformer的编码器-解码器结构, 如图 14所示.

编码器的输入为学生到当前时刻的做题记录Q={E₁, E₂, …, E_t}, 解码器的输入包含序列的开始标识以及学生到前一时刻为止的响应记录A={R₁, R₂, …, R_t}, 两者均用注意力机制, 捕捉习题和学生响应中的隐含信息.用编码器的输出作为键和值, 用过去的响应经过注意力机制的输出作为查询, 再经过一次注意力网络, 预测学生答题对错.所有注意力网络中都添加了mask层, 用于屏蔽未来的信息, 避免对当前时刻的预测结果产生影响, 且每个注意力网络共享相同的位置编码.

SAINT编(解)码器的内部实现与SAKT基本相同, 但是SAINT解码器使用了2种注意力机制(自注意力和上下文注意力), 最终, 解码器的输出经过一个Sigmoid激活的线性层得到最终的预测结果.SAINT基本迁移了Transformer的架构, 多次叠加的注意力使得模型有更好的表现.

2.3.2 增加额外的学习特征

Bhatt等人^[41]提出用学生在每个知识点上截至当前时刻的平均正确率作为预测标签来训练网络.他们使用了基于注意力的网络以及一个线性层进行预测.

Zhang等人^[42]在Choi等人^[40]工作的基础上, 对学生的上课记录使用一个单独的注意力网络, 在解码器的输出后增加一层GRU, 最后将GRU的输出、上课记录注意力网络的输出以及其他增加的学生学习特征拼接, 再经过一个线性层, 预测学生答题结果.

Oya等人^[43]认为, SAKT的查询、键、值不包含过去的学习信息, 因此他们在SAKT输入端增加了一层LSTM, 用于捕捉包含过去学习信息的查询、键、值.由于Transformer对于序列长度有限制, 对于超出长度限制的序列, 学生的整体学习信息无法被完整捕捉到.针对这一点, 他们在模型中增加了手工挑选的特征, 比如学生在所有学习历史中做题正确率等.此外, 他们还在模型中增加了特殊索引, 以避免产生数据泄露问题.

2.3.3 模拟经典的教育理论

Ghosh等人^[44]提出使用情境感知的注意力知识追踪模型AKT (attentive knowledge tracing)来解决KT任务, 充分使用学生的历史答题记录来对当前时刻的学习表现进行预测, 同时增加模型的可解释性.AKT使用一系列的注意力网络, 将当前所做的习题和之前做过的所有习题建立联系, 捕捉历史答题记录对当前习题表现的影响, 还增加了单调注意力机制, 模拟学生在学习过程中的遗忘过程, 通过指数衰减, 降低较远的历史答题记录的权重值.AKT主要包含4个部分: 习题编码器、知识编码器、知识获取模块和预测模块.AKT模型架构如图 15所示, 图中省略了单调注意力机制以及部分子层.

将原始的习题嵌入向量{x₁, …, x_t}输入习题编码器, 并通过使用单调注意力机制, 输出情境感知的习题嵌入向量序列$\{ {\hat {\boldsymbol{x}}_1},...,{\hat {\boldsymbol{x}}_t}\}$.情境感知的习题嵌入向量依赖于过去的所有做题记录以及当前的习题, 即:

${\hat {\boldsymbol{x}}_t} = fen{c_1}({{\boldsymbol{x}}_1},...,{{\boldsymbol{x}}_t})$

(22)

相似地, 知识编码器的输入是原始的习题-响应嵌入向量{y₁, …, y_t-1}, 输出情境感知习题-响应嵌入向量序列$\{ {\hat{\boldsymbol{y}}_1},...,{\hat{\boldsymbol{y}}_{t - 1}}\}$, 其中, ${\hat{\boldsymbol{y}}_{t - 1}} = fen{c_2}({{\boldsymbol{y}}_1},...,{{\boldsymbol{y}}_{t - 1}})$.Ghosh等人认为, 学生对当前题目如何做出响应取决于学习者本身, 即取决于学生各自的学习历史, 因此使用情境感知嵌入向量来代替原始的嵌入向量.两个编码器以及知识获取模块各自有查询、键和值投影层, 由于知识点不相关的习题以及越远的历史学习记录对当前的学习表现影响越小, 模型中添加了乘法指数衰减项:

${\alpha _{t,\tau }} = \frac{{\exp ({s_{t,\tau }})}}{{\sum\nolimits_{\tau '} {\exp ({s_{t,\tau '}})} }}$

(23)

${s_{t,\tau }} = \frac{{\exp ( - \theta \cdot d(t,\tau )) \cdot {\boldsymbol{q}}_t^{\boldsymbol{T}}{{\boldsymbol{k}}_\tau }}}{{\sqrt {{D_k}} }}$

(24)

其中, θ > 0是一个可学习的衰减参数, d(t, τ)是t与τ时刻之间的时间距离度量, q与k分别是查询和键向量, D_k是键向量的维度.为了捕捉学生各自的做题顺序特征, 以及加强过去学习历史中与当前习题相关题目的影响, Ghosh等人提出, 在两个编码器中加入带指数衰减机制的情境感知的时间距离度量方式:

$d(t,\tau ) = |t - \tau | \cdot \sum\limits_{t' = \tau + 1}^t {{\gamma _{t,t'}}}$

(25)

${\gamma _{t,t'}} = \frac{{\exp \left( {\frac{{{\boldsymbol{q}}_t^{\boldsymbol{T}}{{\boldsymbol{k}}_{t'}}}}{{\sqrt {{D_k}} }}} \right)}}{{\sum\nolimits_{1 \leqslant \tau ' \leqslant t} {\exp \left( {\frac{{{\boldsymbol{q}}_t^{\boldsymbol{T}}{{\boldsymbol{k}}_{t'}}}}{{\sqrt {{D_k}} }}} \right)} }},{\text{ }}\forall t' \leqslant t$

(26)

他们还在注意力网络中使用多头注意力机制, 不同的头拥有不同的衰减率, 从不同时间尺度上总结学生的学习表现.除此之外, 每个编码器和知识获取模块中还加入了层归一化、dropout层、全连接层以及残差网络.预测模块的输入为知识获取模块的输出以及当前习题的嵌入向量, 经过一个全连接层以及Sigmoid层, 预测学生在当前习题上做对的概率.在传统KT任务中, 一个习题只对应一个知识点, 在输入时, 相同知识点的题目被认为是相同的, 没有对覆盖相同知识点的题目做区分.Ghosh等人提出, 和同一个知识点相关的不同题目之间的区别不应被忽视.因此, 他们将AKT模型和IRT模型相结合, 提出了AKT-R模型, 不加IRT部分的模型为AKT-NR, 两者的主要区别在于图 15左侧, 两个编码器的输入部分为:

$\begin{gathered} {{\boldsymbol{x}}_t} = {{\boldsymbol{c}}_{{c_t}}} + {\mu _{{q_t}}} \cdot {{\boldsymbol{d}}_{{c_t}}} \hfill \\ {{\boldsymbol{y}}_t} = {{\boldsymbol{e}}_{({c_t},{r_t})}} + {\mu _{{q_t}}} \cdot {{\boldsymbol{f}}_{({c_t},{r_t})}} \hfill \\ \end{gathered}$

(27)

其中, ${{\boldsymbol{c}}_{{c_t}}}$是习题对应的知识点的嵌入向量; ${{\boldsymbol{d}}_{{c_t}}}$向量总结了和当前知识点相关的所有习题的区分度; ${\mu _{{q_t}}}$是一个标量, 难度系数, 表示当前习题和它所相关知识点之间的区别大小.相似地, ${{\boldsymbol{e}}_{({c_t},{r_t})}}$和${{\boldsymbol{f}}_{({c_t},{r_t})}}$分别是知识点-响应嵌入向量以及区分度向量.

基于Rasch模型的嵌入向量, 使得对相同知识点不同习题的区分程度的捕捉以及对过量参数的避免取得了较好的权衡.

Pandey^[45]等人认为, 学生的每一步交互过程都对后续的学习有影响, 这种影响与两种特征有关: 1) 历史记录中各个习题之间的关联; 2) 学生的遗忘行为.他们通过增加关系感知的自注意力层来包含学生学习过程中的上下文信息, 并提出了RKT (relation-aware self-attention model for knowledge tracing)模型, 模型结构如图 16所示.

在原始DKT模型中, 模型输入是知识点, 具有相同知识点的习题被认为是相同的题目.在RKT中, 题目与知识点不等价, 模型按照题目来区分.RKT通过学生过去的学习表现以及题目的文本内容两方面来挖掘习题之间的关联性.RKT的输入为学生当前时刻前的交互序列X={x₁, x₂, …, x_n-1}, 其中, x_i=(e_i, r_i, t_i), e_i∈{1, …, E}是尝试过的题目, r_i∈{0, 1}是学生正确与否, t_i∈$\mathbb{R}^{+}$是第i次交互发生的时间.对于每道题, 模型通过:

${{\boldsymbol{E}}_i} = \frac{1}{{|{s_i}|}}\sum\limits_{w \in {s_i}} {\frac{a}{{a + p(w)}}f(w)}$

(28)

得到题目第i题的题目文本嵌入向量$\boldsymbol{E}_i \in \mathbb{R}^d$, 其中, a是可训练的参数, s_i表示第i题的题目文本, p(w)是单词w出现的概率, f(w)通过word2vec (word-to-vector)实现.对于习题j与习题i题目文本之间的相似度, 通过余弦相似度进行计算, 并表示为sim_i.j.根据学生过去的答题表现, 习题j与i之间的关联度通过Phi相关系数计算得到:

${\phi _{i,j}} = \frac{{{n_{11}}{n_{00}} - {n_{01}}{n_{10}}}}{{\sqrt {{n_{1*}}{n_{0*}}{n_{*1}}{n_{*0}}} }}$

(29)

其中, n指的是学生过去在习题i/j上做对/做错的次数, 具体见表 1.对所有做过的题目计算习题关系矩阵A, 习题j与i之间的关联度总体计算为:

${{\boldsymbol{A}}_{i,j}} = \left\{ {\begin{array}{*{20}{l}} {{\phi _{i,j}} + si{m_{i,j}},} & {{\text{ if }}si{m_{i,j}} + {\phi _{i,j}} > \theta } \\ {0,} &{{otherwise}} \end{array}} \right.$

(30)

其中, θ是用于控制矩阵A稀疏程度的系数.则对当前的习题e_n, 关联度为习题关系矩阵的第e_n行, 记为:

${{\boldsymbol{R}}^E} = [{{\boldsymbol{A}}_{{e_n},{e_1}}},{{\boldsymbol{A}}_{{e_n},{e_2}}},...,{{\boldsymbol{A}}_{{e_n},{e_{n - 1}}}}]$

(31)

对于遗忘行为, 模型将其表示为R^T=[exp(−Δ₁/S_u), exp(−Δ₂/S_u), …, exp(−Δ_n−1/S_u)], Δ_i=t_n−t_i表示下一时刻的交互与第i时刻交互的时间差, S_u是一个可训练参数, 用于表示学生u的记忆力.因此, 关系系数可计算为:

${\boldsymbol{R}}=softmax({\boldsymbol{R}}^{E}+{\boldsymbol{R}}^{T})$

(32)

对于模型原始输入的嵌入表示为$\hat{\boldsymbol{X}}=\left[\hat{\boldsymbol{x}}_1, \hat{\boldsymbol{x}}_2, \ldots, \hat{\boldsymbol{x}}_n\right]$, 它结合了交互嵌入矩阵E和位置编码嵌入矩阵P, 其中, $\hat{\boldsymbol{x}}_j=\left[\boldsymbol{E}_{e_j} \oplus \boldsymbol{r}_j\right]+\boldsymbol{P}_j, \boldsymbol{r}_j=\left\{r_j, r_j, \ldots, r_j\right\} \in \mathbb{R}^d$, r_j是学生在习题j上回答正确与否; P_j是习题的位置编码, 表示学生的做题顺序.自注意力层根据以上输入以及关系系数计算权重:

$\alpha_j=\frac{\exp \left(e_j\right)}{\sum\nolimits_{k=1}^{n-1} \exp \left(e_k\right)}, e_j=\frac{\boldsymbol{E}_{e_n} \boldsymbol{W}^Q\left(\hat{\boldsymbol{x}}_j \boldsymbol{W}^K\right)^T}{\sqrt{d}}$

(33)

其中, $\boldsymbol{W}^Q, \boldsymbol{W}^K \in \mathbb{R}^{d \times d}$是查询和键的投影矩阵.将注意力权重和相关系数相结合: β_j=λα_j+(1−λ)R_j, λ是一个可调参数.自注意力层的输出为$\boldsymbol{o}=\sum\limits_{j=1}^{n-1} \beta_j \hat{\boldsymbol{x}}_j \boldsymbol{W}^V, \quad \boldsymbol{W}^V \in \mathbb{R}^{d \times d}$是值投影矩阵.自注意力层的输出再经过FFN(feedforward network)、ReLU激活层、全连接层以及Sigmoid层, 预测学生下一题能否回答正确.RKT用学生过去表现和题目文本相似性, 捕捉题目之间的关联, 并考虑学生的遗忘行为, 提升模型效果.

为了进一步增强模型的可解释性和泛化性, Zhou等人^[46]提出了LANA (leveled attentive knowledge tracing)模型.与SAINT不同, 他们认为, 应该确保模型有区分不同学生的能力, 当学生的做题序列足够长, 并且数据足够多时, 模型应该具有: 1) 对不同学生做题序列的辨别能力; 2) 对同一学生不同时期做题序列的辨别能力.因此, 在Transformer的基础上, 他们增加了两个模块: SRFE (student-related features extractor)和Pivot Module.SRFE的架构如图 17所示, 分为两个部分: Memory-SRFE和Performance-SRFE.

将编码器得到的表征序列经过自注意力机制蒸馏之后, 分别使用两个SRFE模块(多层感知机), 得到两个向量${S_{mem}} \in {\mathbb{R}^{{n_{heads}} \times seq \times 1}}$和${S_{per}} \in {\mathbb{R}^{seq \times {p_{div}}}}$, 其中, n_heads, seq, p_div分别表示解码器中多头注意力机制的分区大小、序列长度以及学生的额外能力大小(如逻辑思考能力、计算能力等等).Pivot Module分为两个部分, 分别对应解码器的注意力机制和FFN模块.相对于原始的基于内积的注意力机制, 他们增加了遗忘机制来模拟真实的学生记忆情况.对于题目q_j和q_k, 他们的注意力权重为:

${\alpha _{j,k,m}} = \frac{{{\text{exp(}} - {\text{(}}\theta + m{\text{)}} \cdot dis(j,k){\text{)}} \cdot sim(j,k)}}{{\sum\nolimits_{k'} {sim(j,k')} }}$

(34)

其中, m由S_mem得到, 代表该学生的记忆能力; 而θ为可学习的参数, 代表平均的记忆能力; dis(⋅)表示学生解答q_j和q_k直接的时间差.为了增强模型的可解释性, 他们让模型在知道学生能力S_per的情况下, 考虑预测的结果, 因此引入了PivotLinear模块, 其中,

$y = PivotLinear(p,x) = W \cdot x + b = (W_1^p \cdot p + b_1^p) \cdot x + (W_2^p \cdot p + b_2^p)$

(35)

这使得模型强制将特征p纳入考虑范围, 因此, LANA使用了基于上述思想的PC-FFN:

$PC-FFN(x,S_{per})=x+PivotLinear(PivotLinear(x,S_{per}),S_{per})$

(36)

最后, 题目的预测序列由解码器输出.LANA在Transformer的基础上增加了对学生个性化能力的预测, 并将其融入解码器中, 使得模型对于学生个性化的区分度更加明显.

2.4 基于其他神经网络的模型

Shen等人^[47]认为, 大多数KT模型没有对学生进行个性化建模.他们认为, 学生在做题时的先验知识(即已掌握的知识)以及学习率是因人而异的.为了解决这个问题, 他们提出了一个基于卷积神经网络的CKT模型(convolutional knowledge tracing), 对学生的个性化特征进行建模.模型结构如图 18所示.

模型由3个模块组成: 输入模块、学习率模块、输出模块.输入模块包含3个部分: 学习交互序列(LIS)、历史相关表现(HRP)、知识点正确率(CPC).$\boldsymbol{L I} \boldsymbol{S} \in \mathbb{R}^{N \times 2 K}$由各时刻历史交互行为向量$x_t \in \mathbb{R}^{2 K}$组成:

${{x}_t} = \left\{ {\begin{array}{*{20}{l}} {[{e_t} \oplus {a_t}],{\text{ if }}{a_t} = 1} \\ {[{a_t} \oplus {e_t}],{\text{ if }}{a_t} = 0} \end{array}} \right.$

(37)

e_t是K维的习题嵌入向量; a_t是维度和e_t相同的全零向量; ⊕为两个向量的拼接操作; a_t表示学生在当前题目上是否回答正确, 正确为1, 错误为0.Shen等人认为, 学生的先验知识隐含在历史做题记录中, 学生在相同的题目上可能得到相同的分数, 并且得分率可以看作是学生总体知识掌握水平的一个反馈.因此, 模型综合了学生的历史学习记录, 从HRP和CPC两个方面来捕捉不同学生的先验知识.$\boldsymbol{H} \boldsymbol{R} \boldsymbol{P} \in \mathbb{R}^{N \times 2 K}$关注于衡量和当前题目相关的历史做题表现, 两道习题之间的相关系数通过将两道题的嵌入向量做点乘得到, 并使用masking操作将后面尚未做过的习题排除在外:

$\left\{ {\begin{array}{*{20}{l}} {{r_t}(i) = Masking({\boldsymbol{e}_i} \cdot {\boldsymbol{e}_t}),{\text{ }}i \in (t,N)} \\ {{w_t}(i) = Softmax({r_t}(i)),{\text{ }}i \in (1,N)} \end{array}} \right.$

(38)

$\boldsymbol{HRP}_t(t)=\sum\limits_{i=1}^{t-1} w_t(i) \boldsymbol{x}_i$

(39)

N表示当前时刻; w_t(i)是通过第i时刻的题目和当前题目的相关系数计算得到的权重, 根据权重, 对历史交互行为向量进行加权求和, 得到HRP向量.$\boldsymbol{C P C} \in \mathbb{R}^{N \times M}$是对学生在各个知识点上掌握程度的总结, 对学生截至目前做过的题目, 分别计算正确率:

$\boldsymbol{C P C}_t(m) = \frac{{\sum\nolimits_{i = 0}^{t - 1} {a_i^m} = = 1}}{{count({e^m})}}$

(40)

其中, m∈(1, M)是指知识点m, e^m是和知识点m相关的习题, count(e^m)是习题e^m被回答过的次数, $\sum\nolimits_{i = 0}^{t - 1} {a_i^m} = = 1$是习题e^m被正确回答的次数.将LIS, HRP和CPC这3个向量拼接, 并经过一个门控线性单元, 得到学习率模块的输入矩阵H:

$\left\{\begin{array}{l} \boldsymbol{H}=\boldsymbol{L} \boldsymbol{I} \boldsymbol{S} \oplus \boldsymbol{H R} \boldsymbol{P} \oplus \boldsymbol{C P C} \\ \boldsymbol{Q}=\left(\boldsymbol{H} \boldsymbol{W}_1+\boldsymbol{b}_1\right) \otimes \sigma\left(\boldsymbol{H} \boldsymbol{W}_2+\boldsymbol{b}_2\right) \end{array}\right.$

(41)

其中, W₁, W₂, b₁, b₂是需要学习的参数, σ是Sigmoid函数, ⊗是逐元素相乘操作.随后, 学习率模块通过堆叠L层一维卷积神经网络, 形成层次卷积网络, 从矩阵Q中提取学生的学习率特征.在卷积过程中加入滑动窗口, 以避免包含尚未做过的题目信息.低层的卷积网络用于捕捉较近一段时间内的学习率, 高层的卷积网络捕捉长时间内的学习率.最后, 通过将学生知识状态和下一习题的嵌入向量做点乘来对学生能否做对下一道题进行预测.

Nakagawa等人^[48]使用图神经网络(graph neural networks, GNN)来解决知识追踪问题.他们将习题抽象为一个无向图G=(V, E, A), 节点V∈{v₁, …, v_N}对应习题包括的全部N个知识点, 边E⊆V×V表示知识点之间的依赖关系, 邻接矩阵A∈$\mathbb{R}^{N \times N}$表示这些依赖关系的大小程度.类似地, GNN也使用隐层向量${h^t} = \{ h_{i \in V}^t\}$表示学生对所有知识点的掌握情况.当学生解答了与知识点i相关的习题后, 知识点本身对应的知识状态$h_i^t$和相邻的节点对应的知识状态$h_{j \in {\mathcal{N}_i}}^t$均会被更新.基于以上假设, Nakagawa等人提出了基于图神经网络的知识追踪模型GKT (graph-based knowledge tracing), 模型结构如图 19所示.

从图中可以看出, GKT模型的更新分为3个部分: 聚合、更新和预测.首先, 将t时刻的输入x_t=(q_t, r_t)与其相关知识状态$h_k^t$通过函数累加得到新的状态${h'}_k^t$.根据更新节点是否为相关知识点i, 对节点i及相邻节点做如下更新:

${h'}_k^t = \left\{ {\begin{array}{*{20}{l}} {[h_k^t,{{x}_t}{\boldsymbol{E}_x}],{\text{ }}k = i} \\ {[h_k^t,{\boldsymbol{E}_c}(k)],{\text{ }}k \ne i} \end{array}} \right.$

(42)

其中, E_x∈$\mathbb{R}^{2N \times e}$为一个嵌入向量, 嵌入向量的维度为e, 它将学生的交互行为编码; E_c∈$\mathbb{R}^{N \times e}$表示知识点索引的嵌入矩阵, 其中, E_c(k)表示矩阵E_c的第k行.他们引用了MANN的思想, 使用多层感知机和写入擦除技术来进一步提取隐层状态, 其公式如下:

$m_k^{t + 1} = \left\{ {\begin{array}{*{20}{l}} {{f_{self}}({h'}_k^t),{\text{ }}k = i} \\ {{f_{neighbor}}({h'}_i^t,{h'}_k^t),{\text{ }}k \ne i} \end{array}} \right.$

(43)

$\tilde m_k^{t + 1} = {\mathcal{G}_{ea}}(m_k^{t + 1})$

(44)

$\tilde m_k^{t + 1} = {\mathcal{G}_{gru}}(m_k^{t + 1})$

(45)

其中, f_self为多层感知机, $\mathcal{G}$_ea为MANN中的擦写方法, $\mathcal{G}$_gru表示GRU的门控单元, f_neighbor是基于图结构向邻节点传播信息的自定义函数.计算f_neighbor的方式有两种: 基于数理统计的方法和基于学习的方法.前者将邻接矩阵A应用到统计学的方法上, 并提出如下函数:

${f_{neighbor}}({h'}_i^t,{h'}_j^t) = {\boldsymbol{A}_{i,j}}{f_{outgo}}([{h'}_i^t,{h'}_j^t]) + {\boldsymbol{A}_{j,i}}{f_{income}}([{h'}_i^t,{h'}_j^t])$

(46)

其中, f_outgo和f_income为多层感知机.A_i.j根据图定义的不同稍有区别, 共有3种类型的图: 密度图、概率转移矩阵和DKT图计算.基于学习的方法也有3种, 分别是参数邻接矩阵(PAM)、多头注意力机制(MHA)和变分自编码器(VAE).

DKT在某些领域表现很好(如数学选择题预测等), 但是在某些领域表现并不好.为了训练一个能够从源领域到目标领域自适应的模型, Cheng等人^[49]提出了AdaptKT (domain adaption for knowledge tracing)模型, 以解决以下两个问题: (1) 源域数据和目标域数据存在差距; (2) 源域与目标域本身分布不一致.为了最小化目标域和源域的数据差异, 找到与目标域相似的数据样本, AdaptKT使用了基于LSTM的自编码器, 对元数据X_S和目标数据X_T同时编码, 并使用一个选择器u_S来自动筛选与目标域相近的数据.损失函数如下:

$L({\pi _e},{\pi _d},{u_S}) = \frac{1}{{{n_S}}}\sum\limits_{i = 1}^{{n_S}} {u_S^iR(\tilde {x}_S^i,{x}_S^i)} + \frac{1}{{{n_T}}}\sum\limits_{i = 1}^{{n_T}} {u_T^iR(\tilde {x}_T^i,{x}_T^i)} + \lambda ({u_S})$

(47)

其中, π_e, π_d分别为编码器和解码器的参数; $R(\tilde x,x)$为自编码器的重构损失; $u_S^i \in \{ 0,1\}$为指示函数, 表示源数据与目标数据是否相似.

AdaptKT采用交替训练的方式, 如:

● 先固定${u_S},$若$R(\tilde {x}_S^i,{x}_S^i) \leqslant \beta$(β为常数), 则将$u_S^i$置为1; 否则为0.

● 然后固定其他参数, 使用${u_S}$重新筛选数据并开始下一轮训练.他们认为, 这样可以筛选出源域和目标域相似的数据.为了缩小两个域之间的分布差异, AdaptKT在LSTM的输出之后增加了Adaptation Layer (线性层), 并且将筛选出的源数据与目标数据同时输入到模型中, 并最小化它们之间的差异, 如图 20所示.

● 最后, 为了最终在目标域得到预测结果, AdaptKT保留了包括Adaptation Layer在内的所有参数且保持不变, 并在Adaptation Layer之后加入了线性层做最后的预测.

AdaptKT解决了DKT无法在不同领域迁移的问题, 是KT问题在自适应学习上的首次尝试.

2.5 深度知识追踪模型小结

表 2对前述模型的演化路线和所采用的结构进行了总结, 其中所采用的结构包括循环神经网络(RNN)、图神经网络(graph)、记忆网络(memory)、自注意力网络(SA)以及卷积神经网络(CNN).某些模型可能采用了一种结构作为主体结构, 并且使用其他结构进行辅助.例如, GIKT使用了RNN作为主体结构, 并使用图神经网络提取输入特征.

3 深度知识追踪模型预测性能比较

上述工作讨论了将知识追踪应用于教育场景需要考虑的实际问题, 并设计了相应的模型结构加以解决.不过, 知识追踪的核心任务始终是评价学生的知识水平, 而这种评价是否精准, 是通过模型预测学生未来答题表现的准确度来反映的.因此在本节中, 我们从上述模型中选取最具代表性的模型, 并且使用知识追踪领域的公开数据集衡量模型预测学生答题表现的性能.我们分析实验结果, 并对上述模型在教学场景中的使用作出相关推荐.

3.1 数据集

在本文的对比实验中, 我们选取了5个到目前为止在知识追踪领域最通用的公开数据集, 分别为ASSISTments2009, ASSISTments2015, ASSISTments2017, Statics2011以及Synthetic-5.表 3展示了这5个数据集的统计信息.

● ASSISTments2009 (https://sites.google.com/site/assistmentsdata/home/assistment-2009-2010-data/skill-builder-data-2009-2010)是从ASSISTments教育平台收集到的2009−2010学年学生的学习数据, 该数据集中包含110个不同的习题(即知识点, 根据惯例, 包含相同知识点的习题被认为是同一道习题), 共有4 151名学生的325 637条做题记录.

● ASSISTments2015 (https://sites.google.com/site/assistmentsdata/home/2015-assistments-skill-builder-data) 是ASSISTments2009的更新版本, 是收集于2015年的数据, 其中包含了100个不同的习题, 共有19 840名学生的683 801条做题记录.在5个数据集中, 这个数据集涵盖的学生数量最多, 但是平均每个学生的做题数量是最少的.

● ASSISTments2017 (https://sites.google.com/view/assistmentsdatamining)是ASSISTments教育平台上2017年收集的数据, 包含102个不同的习题, 共有1 709名学生的942 816条做题记录.

● Statics2011 (https://pslcdatashop.web.cmu.edu/DatasetInfo?datasetId=507)收集自2011年秋季卡内基梅隆大学的一门统计学课程, 包含1 223个不同的习题, 共有333名学生的189 297条做题记录.在5个数据集中, 平均每个学生的做题数量最多.

● Synthetic-5 (https://github.com/chrispiech/DeepKnowledgeTracing/tree/master/data/synthetic)是Piech等人^[8]生成的模拟数据集, 包含20个不同的习题, 模拟4 000名学生的200 000条做题记录, 每个学生的答题顺序完全相同.

在这些数据集中, Statics2011和ASSISTments2017的学生数量少, 但每个学生的做题序列长度较长.因此, 按照相关工作中广泛使用的方法^{[8, 9]}, 我们对过长的序列进行了折叠操作.当一个序列的长度超过200时, 我们会截断该序列, 并用截断后多出的数据形成一个新的做题序列.因此, 所有序列的长度都小于或等于200.

3.2 实验模型

我们从上述每个类别的模型中, 选择最具代表性的一两个模型进行实验评估.我们采用两个简单、有效的标准选择模型: 第一, 提出该模型的论文已经被发表在各自领域的顶级会议或期刊上, 从而保证所提出模型的先进性; 第二, 该模型在基准数据集上取得了较好的预测效果.通过对这些模型进行全面性能评估, 有助于我们了解目前深度知识追踪的最先进水平(the state of the art).根据这个筛选标准, 我们最终选取了以下8个模型: DKT (NIPS 2015)、DKT-F (WWW 2019)、EKT (TKDE 2019)、DKVMN (WWW 2017)、SKVMN (SIGIR 2019)、SAKT (EDM 2019)、AKT (KDD 2020)以及CKT (SIGIR 2020).DKT、DKT-F、EKT使用循环神经网络作为主体结构, DKVMN和SKVMN使用记忆网络, SAKT和AKT使用注意力网络, CKT使用卷积神经网络.这8个模型涵盖了前述4种模型类别, 其中, EKT和AKT分别有两种具体实现^{[14, 44]}.对于EKT, 我们选取了在原文实验中表现更好的、使用注意力机制聚合隐层状态的模型结构.由于公开数据集中没有题目文本信息, EKT的原作者也并未开源所使用的数据集, 因此我们采用两种方式来表示文本信息的特征: 第1种是使用一个固定的随机向量来表示包含相同知识点的题目文本特征, 相应模型命名为EKT-R; 第2种是使用知识点的向量来代替题目文本特征, 相应模型命名为EKT-C.对于AKT, 原文中实现了AKT-R和AKT-NR两种模型: 前者在模型输入端需要同时包含知识点ID和题号ID的信息, 但是部分数据集中没有题号ID信息, 并且其他模型均未使用题号ID.为了公平起见, 我们采用AKT-NR模型进行比较.

对于DKT (https://github.com/chrispiech/DeepKnowledgeTracing), EKT (https://github.com/bigdata-ustc/ekt), DKVMN (https://github.com/jennyzhang0215/DKVMN), AKT (https://github.com/arghosh/AKT)和CKT (https://github.com/shshen-closer/Convolutional-Knowledge-Tracings), 我们使用了原作者在GitHub中开源的代码.我们从原作者处获得了SAKT的代码.SKVMN和DKT-F的原作者未开源代码, 我们复现了这两个模型.其中, SAKT和SKVMN和原文结果有所不同, 原因如下: SAKT作者提供的代码在计算AUC时, 错误地将用于序列补全的伪数据也包括在内, 大大提高了模型精度; 而SKVMN在构建Hop-LSTM结构时, 需要人为设置判断习题知识点相似度的阈值, 模型性能会受到设置的影响.所有模型的代码均可从此仓库下载: https://gitee.com/daphnezmx/dkt-models.

3.3 模型训练及测试结果

对于每个数据集, 我们用80%的随机数据训练模型, 并用剩余20%的数据作为测试集.训练数据集又被随机划分成5份, 用于5折验证.我们汇报每个模型在测试集上的平均表现.我们使用的评估指标是ROC曲线下面积, 简称AUC, 取值在0−1之间, AUC越大, 表示模型表现越好.表 4展示了模型在5个数据集上的预测精度结果, 在每个数据集上表现最好的模型结果已加粗显示, 我们使用百分制来表示模型的AUC结果.

首先, 我们看到, CKT和DKT-F分别在两个真实的数据集上表现最好, 而AKT-NR在合成数据集上表现最好.进一步观察CKT和DKT-F的实验结果, 我们可以发现, 这两个模型在5个数据集上的总体表现是最好的.值得注意的是, CKT和DKT-F分别针对个性化的学习历史和学习遗忘规律构建了结构化特征, 这表明, 尽管深度神经网络可以自动从海量数据中搜寻特征, 但恰当的特征工程依然能够提升深度模型的预测性能; 另一方面, AKT-NR使用自注意力机制来自动学习历史交互信息和模拟知识遗忘规律, 取得了接近CKT和DKT-F的总体表现.其在Synthetic-5上取得的优越表现, 可能是因为所有学生都具有相同的做题序列, 因此通过自注意力机制来捕获历史情境特征较为容易.综合这些结果, 在实际运用知识追踪模型时, 可以考虑构建与学习规律相关的特征或者捕获这些特征的模型结构来提升追踪效果.

其次, 在各种改进模型层出不穷的情况下, 最早提出的DKT模型仍然表现出较好的性能, 总体表现稍逊于上述3个模型.其中, DKT在ASSISTments2009和Synthetic-5数据集上预测精度相对较高, 而在其余3个数据集上表现较差.这可能是由于ASSISTments2015数据集序列长度太短, 而ASSISTments2017和Statics2011数据集的序列长度太长导致.这表明, 合适的序列长度对使用简单的循环神经网络的DKT至关重要.而旨在改进DKT记忆单元的DKVMN模型, 在4个数据集上的表现超越了DKT, 说明通过增加参数, 使用记忆矩阵来表示学生知识点的掌握状态, 能够提升知识追踪的效果.而在DKVMN模型上改进得到的SKVMN模型, 尽管解释性较好, 但是在各个数据集上预测精度相比DKVMN和DKT均明显下降.这可能是由于三角隶属函数并没有准确捕捉到各题目之间知识点分布的相似性, Hop-LSTM模块在预测做题表现时起到了反作用.综合这些结果, 我们认为, 在寻求知识追踪效率的前提下, 可以使用无需特征工程、结构较为简单的DKT和DKVMN等模型.

第三, 由于缺失题目文本内容, EKT模型的预测精度相较原文明显下降.因此我们猜测, EKT模型对于文本内容信息具有强烈依赖性.这也从侧面证明了EKT原模型的合理性, 即在拥有题目文本的前提下, 融合文本信息能够提升模型的预测效果.

最后, 基于自注意力网络的SAKT模型总体表现优于DKT模型.可见, 使用自注意力机制能够很好地捕捉当前习题知识点与学生历史做题序列中各个时刻表现的关联性, 从而提高预测当前习题表现的准确性.另一方面, SAKT的总体性能不如AKT.这是由于AKT对于题目和知识点本身进行了情境感知学习, 提高了题目和知识点编码的精确性.这说明, 如何构建自注意力网络捕捉做题历史的关联性, 仍然值得重点考虑.

总体而言, 我们认为, 提升对于学生未来学习表现的预测精度, 关键在于充分挖掘以及强化历史学习过程中与当前习题相关的题目的影响, 依据学生在过去相关题目中的表现来更准确地推断学生在某个知识点上的掌握程度.同时, 考虑学生对于知识的遗忘等学习规律, 也有助于提升知识追踪效果.

4 深度知识追踪应用案例分析

深度知识追踪模型目前应用最多的场景为获取学生的知识水平, 经过学者们对技术的探索以及对模型的完善, 当前提出的一些模型已能够处理含有多个知识点的题目, 且能够对每个知识点的掌握程度进行建模, 可解释性得到增强.随着深度知识追踪技术的不断发展, 其应用场景也越来越多, 学者们通过借鉴深度知识追踪模型的想法, 还延伸出了在职业预测、学生编程、第二语言学习等场景下的深度知识追踪应用.需要指出的是, 当前在实际教学中运用最多的是最早提出的DKT模型, 充分说明了这个模型的简洁性和通用性.

Yeung等人^[50]将DKT模型应用到学生职业选择的预测中, 预测学生毕业后的第一份工作是否属于STEM领域.他们从ASSISTments学习平台(https://new.assistments.org/)收集学生在中学时期的历史答题数据, 对数据集进行分析, 并找出可能影响学生第一份工作是否属于STEM/non-STEM领域的重要因素.数据集提供了包含提示请求、答题对错和题目等信息的历史答题数据以及学生资料.数据集中包含467名带STEM/non- STEM标签的学生, 其中117名属于STEM类, 其余350名属于non-STEM类.Yeung等人认为, 学生全面的知识状态比数据集中提供的平均知识状态更有利于预测的准确性.因此, 他们使用DKT模型, 根据历史答题数据获得当前知识状态, 与学生资料中的平均知识状态相结合, 作为职业预测模型的输入.除了职业预测外, 对学生知识状态的详细分析表明, 与non-STEM类学生相比, STEM类学生通常在数学方面表现出更高的掌握水平.

Swamy等人^[51]将DKT模型应用到编程学情分析中, 从学生提交的代码中追踪学生当前的代码进度.他们使用了UC Berkeley的数据科学入门课程《Data 8》的学生代码数据, 该课程介绍编程基础知识、统计推断和预测技术, 每学期吸引1 000名学生.在作业中, 老师提供问题描述和初始代码, 学生使用Jupyter Notebook完成代码.受到DKT模型的启发, 模型输入是题目编号、学生代码以及尝试答题的次数, 输出是对于相同知识点的所有题目剩余的答题次数.通过观察预测结果, 每个题目预测剩余答题次数较多的学生, 可能在练习中遇到了困难, 此时, 老师可以介入来帮助学生解决问题.类似地, Wang等人^[52]将DKT模型应用到学生编程能力的预测中.他们使用的数据集来自Code.org的《Hour of Code》课程, 包含20个编程入门习题.针对每个习题, 学生可以多次运行代码并产生快照, 因此可以利用代码快照来追踪学生的编程进度.他们提出了两种知识追踪任务: 第1种是利用学生所有的代码快照预测学生能否编出下一个习题的代码; 第2种是利用学生在当前习题中的代码快照, 预测学生是否完成当前的编程习题.模型使用了LSTM结构, 输入为每一个代码快照的嵌入表示, 输出为预测学生能否顺利完成当前或下一个编程习题.通过预测学生接下来的编程表现, 老师们可以及时辅导编程有困难的学生.

深度知识追踪模型也被用于第二语言教学中^[53], 根据学生在一门新语言学习过程中的答题记录, 预测学生在未来可能发生的错误.模型使用的数据集是在线语言学习应用Duolingo的部分用户前30天的学习数据, 习题类别有翻译、给词造句以及听写这3种.判题时, 将学生的作答结果与参考答案进行逐个单词的比较: 若与答案相同, 则认为正确; 否则错误.模型使用两部分LSTM结构: 第1部分是双向LSTM, 输入为由学生答题信息、用户ID、语言类别等特征做嵌入后拼接成的向量, 将学生答案中的单词与参考答案进行逐个单词的对比, 预测学生在每个单词上是否会犯错; 第2部分, LSTM利用了第1部分中的隐藏向量与输出信息, 追踪学生的学习历史.通过将深度知识追踪应用于第二语言学习, 老师们能够对学生学习新语言的掌握情况获得更多的了解.

DKT模型也可以用来作为推荐系统, 指导大学生选课.大学课程数量众多, 合理选课一直是一个难题, 学生往往是在课程重要性、课程难度以及预期的成绩之间进行权衡.为每个学生规划个性化的选课路径是非常困难的, 因为每个学生的目标和兴趣不尽相同.Jiang等人^[54]借鉴DKT模型的结构, 构建了基于LSTM的推荐系统, 为大学生选课提供建议.实验使用了UC Berkeley从2008年秋季学期到2017年春季学期的课程学习数据, 总共包括来自197个学科的9 714门基础课程, 每一门课程都有至少20位学生.类似于DKT模型的答题正确率预测功能, Jiang等人使用LSTM模型, 在每个时间步上输入学生历史选修记录中后一学期的选修课程以及前一学期的课程成绩, 来预测学生所选的后一学期的课程中的成绩.由于学习知识由浅入深, 有先后顺序, 相关课程的选修在实际中也是有先后顺序的.Jiang等人所开发的推荐系统, 可根据学生输入的长远的目标课程以及期望达到的成绩来推荐下一学期可选择的课程, 以供学生参考.

深度知识追踪模型在实际应用中还可以产生有趣的“副产品”.Zhang等人^[55]利用DKT模型预测的正确答题概率来反推学生掌握知识点的先后顺序, 然后根据这一顺序挖掘知识点之间的拓扑次序关系.实验同样使用了ASSISTments数据集, 在预处理时, 把每一道题目用对应的知识点ID标识, 每一道题对应一个知识点.知识点拓扑次序的生成包含两个步骤.

● 首先, 利用DKT模型, 根据学生的答题历史信息来预测答对下一题的概率.由于每个题目用知识点标识, 因此预测的概率可视为相应知识点的掌握程度.

● 然后, 用启发式方法定义发掘知识点拓扑次序的规则, 当正确答对下一题的概率大于设定的阈值时, 认为该学生已经掌握了相应的知识点.如果当前知识点已被掌握, 则输出中概率最高的知识点可被视为当前知识点的前提条件; 如果当前知识点尚未被掌握, 则输出中概率最低的知识点可视为当前知识点的前提条件.最后, 再用拓扑排序算法等生成拓扑图.

5 未来的研究方向

当前, 深度学习和知识追踪任务已经有了深度的结合, 主要的研究进展在于提出了各种神经网络结构来模拟学习者的学习规律, 并在预测学生未来的答题表现上取得了前所未有的准确性.尽管如此, 知识追踪相关研究的最终目的是将所研发的模型用于现实的教学场景.为了达到这个目的, 我们认为深度知识追踪研究尚有以下几个问题需要解决.

5.1 深度知识追踪模型的可解释性研究

早期的浅层知识追踪模型虽然预测精度不及深度模型, 但是具有较强的可解释性.例如在BKT^[2]中, 模型使用了4个具有实际意义的参数来模拟学生获取知识的过程, 结合观测数据, 可以很直观地解释模型如何计算得到知识掌握程度的预测结果.再比如基于因子分析的模型^{[3, 5]}, 也可以利用回归分析得到的系数来解释模型的预测结果.然而, 深度知识追踪模型由于使用了多层非线性结构, 无法直接使用模型的参数来解释预测结果; 另一方面, 可解释性对于知识追踪模型在实际教学中的应用又至关重要, 老师和学生在信任模型给出的知识掌握度预测结果之前, 都希望了解相应的结果是如何计算得到的.因此, 深度知识追踪模型的可解释性研究, 是模型能否真正在实际教学中落地的关键.

深度模型的可解释性研究路线可以大致分为全局解释和局部解释两种: 前者分析模型中各个层次从输入数据中学到的具体特征, 或者哪些输入模式导致模型输出人们关注的结果^{[56, 57]}; 而后者分析对于某个给定的输入数据, 其哪些特征导致了模型给出的预测结果^{[58, 59]}.在运用知识追踪模型时, 老师更加关注的是, 某个特定学生在和习题的交互过程中, 哪些时刻的做题特征使得模型给出了相应的知识掌握度预测.因此我们认为, 局部解释是更加适合深度知识追踪模型的研究方向, 这其中一个近期最具代表性的领域是“输入显著性方法”^[60].这类方法的核心目的是针对模型的每一个预测结果, 给出相应输入特征的显著性, 即每个输入特征对预测结果的贡献度.常用的方法包括基于梯度的方法^{[59, 61]}、基于反向传播的方法^{[62, 63]}和基于遮挡的方法^{[64, 65]}.使用这些方法, 在模型做出相关预测后, 老师可以从学生和习题的历史交互中, 根据各个时刻特征的贡献度, 找出导致预测结果的原因.另一方面, 由于输入显著性方法将模型视为一个整体, 仅研究输入特征和输出结果之间的关联, 因此适用于各种模型结构, 对于深度知识追踪任务的模型具有普适性.

5.2 特定场景下的深度知识追踪模型研究

现有的深度知识追踪研究延续了知识追踪问题的经典定义, 聚焦教育的普遍场景, 因此对模型的输入输出信息进行了简化和一般性假设, 例如每个题目只考察一个知识点、学生和题目的交互结果只有对和错两类、每个特定的题目只考虑学生第1次解答的结果等等.然而, 这些假设在真实教学场景下往往不符合学生和习题交互的实际情况, 如果直接运用普遍场景的知识追踪模型, 可能会导致对知识点掌握度预测精度的下降.例如在编程教育^{[52, 66]}中, 一道习题可能会考察多个编程技能的综合运用, 学生提交的代码也并非非对即错, 学生通常需要反复尝试才能提交正确的代码.此外, 学生的知识状态直接蕴含在学生所提交的代码中, 因此需要将学生代码特征作为模型的额外输入.其他学科如第二语言教育^{[67, 68]}、STEM类教育^[50], 也都有各自独有的学科特征.因此, 在将深度知识追踪模型运用于特定场景时, 必须考虑结合该场景下学生和习题交互过程的特殊性.

特定场景下的深度知识追踪模型研究, 可以重点从两方面展开.

● 一是研究使用更适合场景特征的输入输出表征.例如在第二语言教育中, 学生往往通过解答大量选择题来加深对语法的理解, 而选择题的每个选项通常会捕捉特定的知识状态, 因此学生答题结果的表征需要使用更加复杂的方法, 代替简单的0/1向量表示.再比如, 高等教育中通常会考察学生综合运用知识的能力, 因此每个习题一般会包含多个知识点, 这时也不再适合用独热向量来表示习题, 可以考虑采用预训练等方式获取习题的表征, 作为模型输入.

● 另一方面是研究特定场景下特有特征的表征方法.例如在编程教育中, 学生提交的代码蕴含了学生知识状态的丰富信息, 如何表征代码^{[69, 70]}, 并将其融入模型中^[71], 是一个很值得研究的问题.再比如数学、化学等学科, 学生提交的表达式、几何图形、结构式等等, 反映了学生对于所考查知识点的掌握程度, 因此也应该作为知识追踪模型的重要输入特征, 并研究其合适的表征方法.当传统的线下教育转变为线上教育时, 还可以结合在线平台收集的细粒度学生行为数据, 加强知识追踪模型的模拟效果, 例如鼠标轨迹^[72]、手势、姿态^{[73, 74]}等多模态数据.

5.3 基于深度知识追踪的个性化导学研究

知识追踪的教学应用目标不仅仅是评估学生对于知识或者技能的掌握程度, 更重要的意义在于根据评估的结果推荐学习内容, 规划学习路径, 进而实现个性化的导学^{[2, 8]}.然而当前深度知识追踪模型的研究往往始于对学生知识状态的模拟, 终于知识点本身以及知识点之间关联的可视化, 而基于知识追踪进行个性化导学的研究则屈指可数, 主要仍然依赖教师经验为学生制定个性化的学习方案.这种方式显然是不可扩展的, 尤其不适用于如今快速发展的在线教育及其庞大的学生规模.当前, 深度知识追踪模型已经能够较为精准地评估学生对于知识点的掌握程度, 因此, 如何基于对知识点掌握程度的评估, 实现自适应的个性化导学, 将会是一个可行而有趣的研究问题.

个性化导学的本质是针对每个学生的学习路径规划, 其核心是个性化的学习内容推荐, 因此, 基于深度知识追踪的个性化导学至少可以从两种技术路线展开.

● 第1种路线是先利用深度知识追踪模型评估学生的知识点掌握程度, 然后使用基于协同过滤的方法^{[75, 76]}推荐学习内容.例如, 在得到某一时刻学生S的知识状态(知识点掌握程度或隐层表示)之后, 可以寻找具有相似知识状态、并且最终达到考核要求的一组学生, 然后根据知识状态的相似度对这些学生进行排序, 并把这些学生的后续学习内容推荐给学生S.

● 第2种技术路线是采用强化学习算法^{[77, 78]}进行学习内容的推荐.强化学习算法的训练目标通常是最大化长期、全局的收益; 而个性化导学的最终目标是让每位学生根据自身的特点和节奏, 最大限度掌握所有知识点.两者在最大化长期收益的目标上不谋而合, 因此, 强化学习适合用于学习内容的推荐.例如, 最基本的习题推荐强化学习环境可以这样构建: 学生和习题的交互历史可以作为状态, 并且随着学生的交互过程不断更新; 利用学生和习题的交互历史可以训练神经网络, 用于根据学生状态推荐习题; 最后利用预先训练的深度知识追踪模型, 可以预测每次交互之后学生知识掌握程度的变化, 并设计相应的推荐奖励, 强化学习模型的训练目标就是最大化习题推荐的长期奖励, 即知识掌握程度的增长.值得注意的是, 基于强化学习的技术路线在具有强交互的学习环境下效果更好, 因此更加适合与在线教育中的知识追踪模型相结合, 在规模化教学中实现个性化导学.

6 结论

本文介绍了使用深度学习来解决知识追踪任务的研究进展, 并比较了8个代表性的深度知识追踪模型的性能.基于循环神经网络的模型结构简单, 训练开销较小, 并且能够有效地预测学生在未来的答题表现, 其缺点是无法充分表示学生对于特定知识点的掌握状态.基于动态记忆网络的模型使用了额外的记忆模块弥补了这一缺点, 兼顾了模型预测性能和对知识状态的表示.基于自注意力机制的模型, 通过充分挖掘当前学习行为与历史学习行为的关联性, 增强了相关性强的特征的影响, 进一步提升了模型预测性能.而基于其他结构的模型, 如卷积神经网络, 也提供了构建深度知识追踪模型的新思路, 并取得了良好的效果.

我们认为, 深度知识追踪模型的广泛应用, 不仅依赖于模型性能的提升, 还依赖于模型和应用场景的有机结合, 即根据课程的实际教学过程, 修改模型细节, 使其能够适应课程所产生的学生数据.深度知识追踪模型与教学应用场景的有机结合, 将会是教育学研究中一个非常有趣的问题.随着深度知识追踪模型的逐步应用, 教学辅助系统能够完成实时追踪学生学习状态、帮助学生制定个性化学习计划和自动推荐学习材料与习题等任务, 从而使得教学过程变得更加“智适应”.