生成式人工智能的内容安全风险与应对策略  

作　　者：杨冀龙 

机构地区：[1]知道创宇联合

出　　处：《中国信息安全》2024年第6期38-41,共4页China Information Security

摘　　要：正如一枚硬币的两面,生成式人工智能大模型(以下简称“生成式大模型”)在助力内容生成的同时也潜藏风险,成为虚假信息传播、数据隐私泄露等问题的温床,加剧了认知域风险。与传统人工智能(AI)相比,生成式大模型特有的预训练、微调、上下文、提示和思维链等新型学习范式,使其输出内容蕴含的风险更加复杂与多样化。面对新问题、新挑战,传统的内容安全治理方法与工具显现出明显的局限性,亟需探索新的治理策略和技术方法,以确保在大模型时代能够有效管理内容安全风险。

关 键 词：人工智能 学习范式 数据隐私 安全治理 虚假信息 生成式 治理策略 认知域 

分 类 号：TP309[自动化与计算机技术—计算机系统结构] TP18[自动化与计算机技术—计算机科学与技术]