生成式人工智能嵌入网络犯罪预警的机遇与挑战

扫码查看

原文链接

万方数据
维普

中文摘要：在网络犯罪治理中,用技术回应技术的事前预防远比事后惩戒更为重要.但随着网络犯罪手段的翻新,犯罪的时空信号特征愈发稀疏,使得基于大规模犯罪信号特征所构建的判别式人工智能在网络犯罪预警场景下捉襟见肘.生成式人工智能特有的上下文理解能力和小样本学习能力,能够弥补当前网络犯罪预警系统对犯罪信号数据依赖的短板;自适应的多模态内容生成能力能够进一步增强事前预警的主动性,为网络犯罪预警带来新的机遇.然而,生成式人工智能对微调网络犯罪样本的高质量要求和算法黑箱下的决策结果偏信使得原有技术风险进一步深化.为充分释放生成式人工智能嵌入网络犯罪预警的技术红利,应在数据层面遵循安全与效率并举的合规理念,建设全生命周期的网络犯罪数据工程范式;在算法层面致力于重塑算法信任,增强技术的可解释性和决策结果稳定性,严格限制对潜在犯罪行为人的预警,并建立算法问责和补救机制.

作者：

吕露鹏、刘松茂

展开 >

作者单位：

南京师范大学,江苏南京 210046

南京市玄武区人民检察院,江苏南京 210018

关键词：

网络犯罪预警生成式人工智能数据安全算法信任

基金：

2023年度江苏省研究生科研与实践创新计划

项目编号：

KYCX23_1539

出版年：

2024

DOI：

10.19736/j.cnki.gxjcxyxb.2024.0313

广西警察学院学报

广西公安管理干部学院

广西警察学院学报

ISSN：2096-4048

年,卷(期)：2024.37(3)

参考文献量21