生成式人工智能引发的认知安全风险与对策  

Cognitive Security Risks and Countermeasures Caused by Generative Artificial Intlligence

作　　者：李梦浩 李勇男[1] LI Meng-hao;LI Yong-nan

机构地区：[1]中国人民公安大学,北京100038

出　　处：《广西警察学院学报》2024年第5期99-108,共10页Journal of Guangxi Police College

基　　金：2023年度某省部级重点项目(2023JSZ04)。

摘　　要：ChatGPT引发各行业对生成式人工智能的关注和安全担忧,特别是在现代网络空间中对认知安全带来的风险挑战。通过深入分析当前认知领域的突出风险和生成式人工智能技术本身的安全隐患,探讨生成式人工智能可能基于自身技术风险催化我国认知风险的新态势,特别是在政治领域的信息操纵和舆论引导方面对网络空间认知安全的影响。防范生成式人工智能的认知风险需要从技术、政策、公众教育、信息引导以及全生命周期监管等途径入手,以有效地应对新一代人工智能背景下的认知安全风险。

关 键 词：生成式人工智能 认知安全 算法黑箱 数字民众 

分 类 号：D922.17[政治法律—宪法学与行政法学]