Bi-Attention Text-Keyword Matching for Law Recommendation
丁娜 1刘鹏 2邵惠鹏 3王学奎4
扫码查看
点击上方二维码区域,可以放大扫码查看
作者信息
1. 中国矿业大学信息与控制工程学院, 徐州 221116
2. 矿山互联网应用技术国家地方联合工程实验室, 徐州 221008
3. 江苏省徐州市铜山区公安局法制大队, 徐州 221100
4. 阿里巴巴集团有限公司, 杭州 311121
折叠
摘要
提出一种双向注意力文本关键词匹配的法条推荐模型(BiAKLaw).该模型以预训练语言模型 BERT 作为基础匹配模型,利用双向注意力机制提取字符级对齐特征和关键词差异特征,融合对齐特征、差异特征和关键词语义表征来提升匹配效果.在裁判文书交通肇事和故意伤害数据集上的实验结果表明,与 BERT 模型相比,BiAKLaw 在评价指标 F1 上分别提升 3.74%和 3.43%.
Abstract
This paper proposed a bi-directional attention based text-keyword matching model for law recommen-dation(BiAKLaw).In this model,BERT is utilized as a basic matching model,bi-directional attention mechanism is implemented to extract token-level alignment features and keyword-level differential features,and these features are fused with keyword attentive semantic representations for a better matching effect.The experimental results on the traffic accident and intentional injury datasets demonstrate that,compared with BERT,the proposed model increases F1 evaluation metric by 3.74%and 3.43%respectively.
关键词
法条推荐/案件事实/文本匹配/注意力机制
Key words
law recommendation/case fact/text matching/attention mechanism