生成式人工智能嵌入网络犯罪预警的机遇与挑战  

Opportunities and Challenges of Embedding Warning into Network Crime through Generative Artificial Intelligence

作　　者：吕露鹏 刘松茂 LV Lu-peng;LIU Song-mao

机构地区：[1]南京师范大学,江苏南京210046 [2]南京市玄武区人民检察院,江苏南京210018

出　　处：《广西警察学院学报》2024年第3期117-128,共12页Journal of Guangxi Police College

基　　金：2023年度江苏省研究生科研与实践创新计划(KYCX23_1539)。

摘　　要：在网络犯罪治理中,用技术回应技术的事前预防远比事后惩戒更为重要。但随着网络犯罪手段的翻新,犯罪的时空信号特征愈发稀疏,使得基于大规模犯罪信号特征所构建的判别式人工智能在网络犯罪预警场景下捉襟见肘。生成式人工智能特有的上下文理解能力和小样本学习能力,能够弥补当前网络犯罪预警系统对犯罪信号数据依赖的短板;自适应的多模态内容生成能力能够进一步增强事前预警的主动性,为网络犯罪预警带来新的机遇。然而,生成式人工智能对微调网络犯罪样本的高质量要求和算法黑箱下的决策结果偏信使得原有技术风险进一步深化。为充分释放生成式人工智能嵌入网络犯罪预警的技术红利,应在数据层面遵循安全与效率并举的合规理念,建设全生命周期的网络犯罪数据工程范式;在算法层面致力于重塑算法信任,增强技术的可解释性和决策结果稳定性,严格限制对潜在犯罪行为人的预警,并建立算法问责和补救机制。

关 键 词：网络犯罪 预警 生成式人工智能 数据安全 算法信任 

分 类 号：D631[政治法律—政治学]