北京大学学报(自然科学版)2024,Vol.60Issue(1) :79-88.DOI:10.13209/j.0479-8023.2023.077

双向注意力文本关键词匹配法条推荐

Bi-Attention Text-Keyword Matching for Law Recommendation

丁娜 刘鹏 邵惠鹏 王学奎
北京大学学报(自然科学版)2024,Vol.60Issue(1) :79-88.DOI:10.13209/j.0479-8023.2023.077

双向注意力文本关键词匹配法条推荐

Bi-Attention Text-Keyword Matching for Law Recommendation

丁娜 1刘鹏 2邵惠鹏 3王学奎4
扫码查看

作者信息

  • 1. 中国矿业大学信息与控制工程学院, 徐州 221116
  • 2. 矿山互联网应用技术国家地方联合工程实验室, 徐州 221008
  • 3. 江苏省徐州市铜山区公安局法制大队, 徐州 221100
  • 4. 阿里巴巴集团有限公司, 杭州 311121
  • 折叠

摘要

提出一种双向注意力文本关键词匹配的法条推荐模型(BiAKLaw).该模型以预训练语言模型 BERT 作为基础匹配模型,利用双向注意力机制提取字符级对齐特征和关键词差异特征,融合对齐特征、差异特征和关键词语义表征来提升匹配效果.在裁判文书交通肇事和故意伤害数据集上的实验结果表明,与 BERT 模型相比,BiAKLaw 在评价指标 F1 上分别提升 3.74%和 3.43%.

Abstract

This paper proposed a bi-directional attention based text-keyword matching model for law recommen-dation(BiAKLaw).In this model,BERT is utilized as a basic matching model,bi-directional attention mechanism is implemented to extract token-level alignment features and keyword-level differential features,and these features are fused with keyword attentive semantic representations for a better matching effect.The experimental results on the traffic accident and intentional injury datasets demonstrate that,compared with BERT,the proposed model increases F1 evaluation metric by 3.74%and 3.43%respectively.

关键词

法条推荐/案件事实/文本匹配/注意力机制

Key words

law recommendation/case fact/text matching/attention mechanism

引用本文复制引用

基金项目

中国矿业大学研究生创新计划(2023WLJCRCZL111)

出版年

2024
北京大学学报(自然科学版)
北京大学

北京大学学报(自然科学版)

CSTPCDCSCD北大核心
影响因子:0.785
ISSN:0479-8023
参考文献量35
段落导航相关论文