摘要
近年来，观点型阅读理解作为机器阅读理解的子任务，在自然语言处理领域中逐渐取得关注，并成为重要研究问题之一。观点型机器阅读理解旨在让模型基于问题对文章进行阅读并抽取出相关观点证据，并根据观点证据进行推理，从三种基本观点倾向：“是”，“否”，“不确定”中做出正确的选择。但是，该任务仍然面临着诸多挑战：现有方法往往只能捕捉到问题和文章之间局部文本片段匹配关系，难以关注到全局语义信息中的观点极性；传统阅读理解方法注重问题与文章整体语义信息的匹配，忽略了问题+选项当中明确的结构化观点信息；观点型阅读理解中问题的难度不一以及样本失衡问题，降低了模型的分类效果。针对上述问题，本文进行了以下三个方面的研究： 第一，针对现有模型语义匹配过程中专注于局部语义信息，难以关注到全局语义信息中的观点极性问题，提出了一种基于双重匹配注意力网络的观点型阅读理解方法。该方法先用动态匹配机制迭代综合获取全局观点信息，同时利用多维度匹配机制在不同特征空间上计算全局语义信息，然后交互式多路注意力机制通过两路注意力之间的交互计算对上述全局的观点与语义信息进行融合，最后与选项表示结合预测答案的观点倾向。实验表明，该方法相对于基准模型在准确率上提升了1.18%和0.84%，在加权宏F1上提升了1.16%和0.75%。 第二，针对现有模型未充分利用问题+选项当中明确的结构化观点信息的问题，提出了一种基于语义结构交互的观点型机器阅读理解方法。该方法首先将文本转换为词级表示，然后利用GRU与启发式信息将全局语义信息融合到词级表示中，接下来通过全局词级表示构建整体语义结构图，并使用动态感知机对语义结构图进行非线性变换进而抽取观点极性相关的特征子图，最后对各个特征子图之间进行图结构相似性度量得到各个选项的概率分布。实验表明，该方法相对于基准模型在准确率上提升了0.38%和0.3%，在加权宏F1上提升了0.51%和0.31%。 第三，针对现有模型存在着“不确定”样本问题较难以及样本失衡问题，提出了一种基于不确定度损失对抗的观点型机器阅读理解方法。该方法首先引入协方差、互信息共同构成衡量模型表现效果的不确定度，然后与提升困难问题的权重的加权交叉熵损失函数进行结合构成模型目标函数，最后利用对抗训练提升模型的抗干扰能力，进而提升模型的分类能力。实验结果证明，相对于基准模型，该方法在准确率上提升了0.22%和0.08%，在加权宏F1上提升了0.15%和0.11%。
NETL